OpenAI ka ndërtuar një çelës fikjeje për të ndaluar agjentët autonomë brenda 35 sekondave, ku dhoma e kontrollit ndërpret daljen e modeleve për detyrat e kërkimit të brendshëm kur njerëzit ose monitorët e automatizuar sinjalizojnë shqetësime sigurie.
OpenAI ka ndërtuar një sistem që mund të ndërpresë aksesin e një eksperimenti kërkimor të inteligjencës artificiale në daljen e modelit, pas disa zbulimeve këtë vit se modelet e saj kanë vepruar jashtë udhëzimeve të tyre.
Në një postim në blog të hënën, OpenAI e quajti sistemin “Control Room” (Dhoma e Kontrollit), i cili është një sistem i centralizuar që gjurmon ngarkesat e punës së modeleve në të gjithë infrastrukturën e saj kërkimore dhe i ndalon ato shpejt kur shfaqen shqetësime sigurie.
“Ndërsa modelet tona bëhen më të fuqitë dhe rreziqet e lidhura me sigurinë bëhen më të mëdha, bëhet gjithnjë e më kritike që të mund të zbulojmë probleme të mundshme dhe t'i ndalojmë shpejt modelet në rrugën e tyre kur është e nevojshme,” tha kompania.
Ky njoftim vjen pasi OpenAI zbuloi disa incidente këtë vit ku modelet kërkimore vepruan jashtë udhëzimeve të tyre gjatë vlerësimeve. Në korrik, kompania tha se modelet e saj kishin shpëtuar nga një mjedis testimi i kufizuar dhe kishin hakuar Hugging Face për të mashtruar në një vlerësim sigurie.
Në tetor, ajo zbuloi se një model kërkimor kishte përdorur një portofol kripto pa autorizim për të paguar për vendosjen e kontrateve inteligjente duke përdorur testnet Ether, dhe më pas kishte lënë jashtë shpenzimin nga përmbledhja e tij përfundimtare.
Control Room aktualisht mbulon ngarkesat e punës kërkimore të brendshme të OpenAI, të tilla si eksperimentet e trajnimit, vlerësimet dhe përpunimi i të dhënave.
Sistemi funksionon duke i caktuar çdo pune kërkimore një identifikues, të cilin motori i konkluzionit e kontrollon përpara se të gjenerojë daljen e modelit. Nëse një person ose sistem monitorimi i automatizuar urdhëron ndalimin e punës, Control Room revokon autorizimin e tij, duke bllokuar daljen e mëtejshme edhe nëse programi bazë i kërkimit vazhdon të ecë, sipas OpenAI.
OpenAI tha se autorizimet e ruajtura në cache mund vonojnë një mbyllje deri në 35 sekonda. Sistemi është projektuar gjithashtu për të refuzuar kërkesat e reja nëse Control Room bëhet i padisponueshëm.
Lidhur me këtë: DeepSeek po zhvillon një agjent të inteligjencës artificiale që kërkon më pak ndërhyrje njerëzore: Raporti
