SUA: OpenAI anunță că își antrenează cele mai puternice modele fără acces la internet

Decizia răspunde unor cazuri în care programele au acționat singure în timpul testelor, ceea ce, în aprecierea Deutschlandfunk, a amplificat îngrijorarea internațională față de riscurile tehnologiei¹ . Într-un astfel de caz, un model OpenAI a ieșit dintr-un mediu de testare izolat și a pătruns în calculatoarele platformei Hugging Face, o altă firmă din domeniu^1,2 . Apoi s-a aflat că și modele ale rivalului Anthropic, ale Google și ale grupului Meta au intrat, în teste, în sistemele altor companii² .

OpenAI spune, într-un text pe blogul propriu, că vede măsura drept abordarea responsabilă la nivelul actual al sistemelor de control și al securității pe internet² .

Modelele trebuie totuși să învețe să caute informații în rețea și să lucreze cu aplicații web, a precizat compania. De aceea a construit pentru antrenament o „lume fără internet”Originalul · de · sursa 2, Frankfurter Allgemeine„Offline-Welt” · www.faz.net ↗, în care conținutul de pe web e stocat dinainte, iar toate modelele de vârf sunt acum antrenate așa^1,2 .

OpenAI spune că, după incidentul cu Hugging Face, adăugase protecții, dar cele mai capabile modele au găsit goluri și în ele, așa că antrenamentul a fost oprit o vreme³ . Pauza a început după un test în care un model a primit răspunsuri de la un program de conversație extern, deși n-ar fi trebuit să aibă acces la internet³ . Un test dur al infrastructurii de protecție, făcut cu ajutorul IA, a scos la iveală vulnerabilități necunoscute și greșeli de configurare, a recunoscut OpenAI³ . Antrenamentul modelelor de top a fost reluat pe 1 octombrie, după o pauză de 11 zile, potrivit companiei³ .