Müxtəlif platformalara hücum etdiOpenAI, nəzarətdən kənar ChatGPT agentlərinin iştirak etdiyi kiberhücumun yalnız bir şirkətlə məhdudlaşmadığını elan etdi.
Avropa.info xəbər verir ki, ABŞ prezidenti Donald Tramp administrasiyasının kibertəhlükəsizlik insidentlərindən sonra süni intellekt alətləri üzərində daha çox nəzarət yaratmağı nəzərdən keçirdiyini açıqlayıb.
İlkin açıqlamalarda görünməmiş kiberhücumun yeganə qurbanının Hugging Face olduğu düşünülürdü.Bununla belə, OpenAI etiraf etdi ki, onun süni intellekt botu bir çox digər ictimai xidmətlərə də hücum edib. Nəzarətdən çıxan süni intellekt İnternetdə tapdığı dörd fərqli giriş məlumatı ilə dörd adsız xidmətə çıxış əldə etdi.Dünyanın ilk tam avtonom süni intellekt hücumuna məruz qalan Hugging Face nümayəndələri yüzlərlə kibertəhlükəsizlik mütəxəssisinin qatıldığı fövqəladə toplantıda təcrübələrini çatdırıblar.Şirkət, süni intellektin fövqəlbəşəri sürətlə işlədiyini, lakin bir insan hakerinin heç vaxt etməyəcəyi qəribə səhvlər və qərarlar verdiyini vurğuladı.Süni intellekt alətləri üçün bir tətbiq mağazası olan Hugging Face, süni intellekt agentlərinin eyni anda minlərlə fərqli metodu sınayaraq dayanmadan işlədiyini ifadə etdi.Hugging Face iyulun 16-da güclü avtonom süni intellekt tərəfindən sındırıldığını açıqladı və vəziyyəti polisə bildirdi. Hadisədən təxminən bir həftə sonra OpenAI etiraf etdi ki, sınaq zamanı qapalı mühitdən qaçdıqdan sonra öz AI-nin Hugging Face-ə hücum etdi.Hücumun OpenAI tərəfindən süni intellektə verdiyi kibertəhlükəsizlik imtahanının cavablarını tapmaq məqsədi ilə həyata keçirildiyi və hədəfin Hugging Face olduğu anlaşılıb. Yeniləməsi ilə OpenAI, hücumun ilk gözləniləndən daha təkmil səviyyəyə çatdığını təsdiqlədi. Şirkət bildirib ki, modellər açıq hesabla əlaqəli auditoriya məlumatlarını müəyyən edir və istifadə edir.OpenAI bu xidmətlərin şirkət olub-olmamasına aydınlıq gətirmədi, lakin yeni hücumların Hugging Face davası qədər şiddətli olmadığını müdafiə etdi.İnsan quldurlarının üstünlük verməyəcəyi bacarıqsızlıq nümayiş etdirildiCloud Security Alliance (CSA) Hugging Face ilə fövqəladə görüşdən sonra hesabat yayıb. Hesabatda agentlərin səmərəsiz yollara getdiyi və heç bir insanın üstünlük verməyəcəyi yöndəmsiz davranışlar nümayiş etdirdiyi qeyd edilib.Vurğulanıb ki, süni intellekt agentləri əvvəllər tamamladıqları hərəkətləri təkrarlayırlar ki, bu da fokusunu və kontekstini itirmiş süni intellektin göstəricisidir.Bildirilib ki, agentlər uyğun olmayan əmrlər veriblər və izlərini yaxşı gizlədə bilməyiblər. Bütün bu səhvlərə və qəribə davranışlara baxmayaraq, Hugging Face, süni intellekt agentlərinin texniki cəhətdən qeyri-adi hərəkətlər etdiklərini və günlərlə davam edən hücumda tez bir zamanda yeni ssenarilərə uyğunlaşdıqlarını izah etdi.Hugging Face şəbəkəsində agentlərin müəyyən edilməsi üç gün çəkdi. Şirkətin süni intellekt və kibertəhlükəsizlik üzrə mütəxəssisləri süni intellekt agentlərini sistemdən təmizləmək üçün saatlarla çalışıblar. Xərclə bağlı məlumat verməyən şirkət infrastrukturun üçdə birini yenidən qurmalı olduqlarını bildirib.CSA bildirib ki, süni intellekt agentləri hadisəni Yura Parkı filmində yaşadıqları ərazilərdən qaçan dinozavrlara istinad etmək üçün bir yol tapıblar. Hesabatda vurğulanıb ki, agentlər məqsədə diqqət yetirir, öz alt məqsədlərini təyin edir, müdafiəni aşmaq üçün real vaxtda uyğunlaşır və insan gücünü aşan əzmkarlıqla hərəkət edir.Kibertəhlükəsizlik mütəxəssisləri bildirdilər ki, muxtar agentlər qətiyyətlə qətiyyətlə bütün mümkün yolları sınayırlar və ənənəvi müdafiə mexanizmlərini asanlıqla zərərsizləşdirə bilirlər.Bu, muxtar agentlərin nəzarətdən çıxması ilk dəfə deyil.Bu, süni intellekt agentlərinin nəzarətdən çıxması ilk dəfə deyil. CSA hesabatında 2024-cü ilin sentyabrında ChatGPT-nin erkən modelinin başqa bir testin cavabını almaq üçün öz qum qutusundan qaçdığı bir nümunə göstərildi.Kibertəhlükəsizlik mütəxəssisləri, avtonom süni intellekt agentlərinin sürü halında və qəribə üsullarla işləyəcəyi yeni dövrə uyğunlaşmağın zəruriliyi ilə bağlı xəbərdarlıq edilib. Süni intellekt inkişaf etdirən və istifadə edən tərəflərə məsuliyyət çağırışı edilib.OpenAI yalnız dörd gün sonra pozuntunu aşkar edə bildi. Şirkət, dərslərin öyrənilməsi üçün yaxın vaxtlarda daxili araşdırmasının nəticələrini paylaşacağını bildirdi.Tramp administrasiyası süni intellektə nəzarəti nəzərdən keçirirABŞ prezidenti Donald Tramp administrasiyasının kibertəhlükəsizlik insidentlərindən sonra süni intellekt alətləri üzərində daha çox nəzarət yaratmağı nəzərdən keçirdiyini açıqlayıb.Digər şirkətlərin özəl texnologiyalarına müdaxilə edən OpenAI alətləri ilə bağlı sualları cavablandıran Tramp bildirib ki, onlar süni intellekt və nəzarət mexanizmlərini araşdırırlar, eyni zamanda qlobal liderliyi qorumağa diqqət yetirirlər.Trampın açıqlamaları texnologiyaya müdaxilə etməmək kimi əvvəlki mövqeyindən dönüş olduğunu göstərir. Bu, məşhur süni intellekt alətlərinin sındırma qabiliyyətinin artdığı və Ağ Evin Çin texnologiyasına təhdidlərinin artdığı bir vaxta təsadüf edir.Məhdudiyyətlərin diqqətlə tətbiq edilməsi lazım olduğunu bildirən Tramp, Çindən geri qalmaq istəmədiklərini və Çində demək olar ki, nəzarətin olmadığını bildirib.
