AI agentləri gözlənilmədən ABŞ hökumət saytlarını skan etdikdən sonra OpenAI yeni modellərin təlimini dayandırır
Avropa.info xəbər verir ki, OpenAI, nəzarətdən kənar süni intellekt agentləri ilə bağlı artan hesabatlar fonunda ən son AI modellərinin təlimini dayandırdığını açıqladı.
İnkişafı dayandırmaq qərarı şirkət cümə günü yay ərzində federal hökumət veb-saytlarında axtarış aparan OpenAI agentlərinin onlardan tələb olunandan kənar məlumat toplayan və yayarkən gözlənilməz davrandıqları bir neçə hadisəni nəzərdən keçirdiyini elan etdikdən qısa müddət sonra gəldi.
Süni intellekt agentləri gözləntiləri aşır
Süni intellekt qiymətləndiricisi Transluce bildirdi ki, görünür OpenAI-dən olan agentlər Təhsil Departamentinin veb-saytını sındırmağa cəhd ediblər, lakin buna nail ola bilməyiblər. OpenAI hələlik bu detalı təsdiqləməyib.
Açıqlamasında OpenAI, əlavə təhlükəsizlik tədbirlərinin görüldüyünə əmin olduqdan sonra təlimə yenidən başlayacaqlarını bildirdi. Şirkət süni intellektin təkmilləşdirilməsi və digər problemlər ortaya çıxdığı üçün təlimləri yenidən dayandırmağı gözlədiklərini bildirdi.
Süni intellekt laboratoriyaları qanunvericilərin və texnoloji ekspertlərin inkişafı ləngitmək üçün təzyiqləri ilə üzləşir ki, onlar agentlərin təkbaşına hərəkət etmələrini, internet saytlarını sındırmaq və ictimai olmayan məlumatları açıqlamaqdan çəkindirmək üçün təhlükəsizlik tədbirləri görsünlər. Həm OpenAI, həm də rəqib Anthropic-in rəhbərləri yavaşlamağa çağırdılar.
OpenAI, üç ay ərzində ikinci dəfədir ki, öz modellərinin inkişafını dayandırır. İlk dayandırma qərarı iyul ayında Hugging Face adlı süni intellekt startapını hədəf alan kiberhücumun ortaya çıxmasından sonra qəbul edilib.
Sözügedən inkişaf sənayenin nəzarəti itirdiyinə dair qorxuları artıran tanınmış bir hadisə kimi diqqət çəkdi.
ABŞ prezidenti Donald Tramp məhdudiyyətlər planlaşdırmır
Bu həftə Çin Prezidenti Si Cinpin ilə görüşdə ABŞ Prezidenti Donald Tramp süni intellektin təhlükələri haqqında məlumat paylaşmağa və təhlükəsizliyin təmin edilməsi üçün səyləri əlaqələndirməyə razılaşıb.
Bununla belə, ABŞ prezidenti Donald Tramp süni intellektlə bağlı qorxuların şişirdildiyinə inanır və öz tərəfdən heç bir məhdudiyyət planlaşdırmadığını bildirir.
ABŞ prezidenti Donald Tramp Ağ Ev qarşısında jurnalistlərə açıqlamasında ABŞ-ın əyləci basmayacağını bildirib. ABŞ prezidenti Donald Tramp Çinin irəliləyişini dayandırmaq istədiklərini, çünki onlardan çox irəlidə olduqlarını və buna davam edəcəklərini bildirib.
Yalnız ictimaiyyətə açıq məlumatlar əldə edildi
Son OpenAI insidentlərinin heç bir ictimai olmayan məlumatın açıqlanmasını ehtiva etmədiyi anlaşılır, lakin hadisələrin şirkətin müvafiq federal qurumları xəbərdar etməsi üçün kifayət qədər həyəcan verici olduğu qeyd edildi.
Təhsil Departamentinin işində, OpenAI agentləri hökumət məlumatlarına daxil olmaq üçün tərtibatçı açarları tapdılar, lakin nəticədə yalnız ictimaiyyətə açıq məlumatlar toplandı.
Qiymətli Kağızlar və Birja Komissiyasının iştirak etdiyi başqa bir işdə agentlərin pulsuz olaraq ictimaiyyətə açıq olan məlumatları tapdıqları, lakin sonra internetdə başqa yerdə dərc etdikləri bildirilir. Bu hərəkətin onlardan tələb olunandan kənara çıxdığı vurğulanıb.
Qiymətli Kağızlar və Birja Komissiyasının sözçüsü Kurt Hopfenspirger şənbə günü verdiyi açıqlamada heç bir ictimai olmayan məlumatın əldə edilmədiyini söylədi.
Təhsil Departamenti əvvəllər vebsaytlara və ya verilənlər bazasına təsir göstərən heç bir sübut tapa bilmədiyini bildirmişdi.
Bir sıra digər süni intellekt şirkətləri də modellərinin nəzarətdən çıxdığı və hətta internet saytlarını sındırdığı hadisələri açıq şəkildə bildirdilər.
OpenAI-nin baş icraçı direktoru Sem Altman cümə günü sosial mediada etdiyi paylaşımda Hugging Face hadisəsinin indiyə qədər gördükləri ən ciddi hadisə olaraq qaldığını söylədi.
OpenAI əvvəllər süni intellekt modellərində gözlənilməz və ya əlaqəli davranışlarla bağlı altı müxtəlif hesabat paylaşmışdı və hadisələrin monitorinqi, araşdırılması və açıqlanması üçün çərçivə təmin etmişdi.
