Böyük Britaniyanın Milli Səhiyyə Xidmətinin (NHS) həkimlərinin iştirak etdiyi yeni bir araşdırma,  ChatGPT  və oxşar  süni intellekt  chatbotlarının həssas insanlarda psixotik simptomlara səbəb ola biləcəyini ortaya qoydu. Tədqiqatçılar xəbərdarlıq edirlər ki, böyük dil modelləri reallıq qavrayışını bulandıra bilər, psixozlara səbəb ola bilər və ya mövcud simptomları gücləndirə bilər.

“Çatbot psixozu” əsl hadisədir

London Kral Kollecinin nöropsikiyatristi Hamilton Morrin bunu “əsl fenomen” kimi xarakterizə etdi. O qeyd etdi ki, AI-nin təbiəti, xüsusən də istifadəçini təsdiqləyən, interaktiv və davranışı təqlid edən təbiət psixozla əlaqəli koqnitiv zəifliklərlə təhlükəli şəkildə qarşılıqlı əlaqədə ola bilər.

Maşınlar artıq aldanmanın bir hissəsidir

Morrinə görə, biz artıq maşınlarla bağlı yaranan aldatmalarla deyil, onlarla yanaşı inkişaf edən aldatmalarla qarşılaşırıq. Başqa sözlə, fərdlər təkcə maşınlar haqqında xəyal qurmurlar; bu aldatmalar onlarla qarşılıqlı əlaqədə olduqda dərinləşir.

Tədqiqatın digər müəllifi Dr. Tom Pollack psixiatrik xəstəliklərin nadir hallarda qəfil başlandığını vurğulayır. Bununla belə, o, süni intellekt chatbotlarının xüsusilə həssas şəxslərdə bu prosesi işə sala biləcəyini söylədi. Pollack, AI sistemlərinə daha çox təhlükəsizlik təbəqələrinin əlavə edilməli olduğunu və təhlükəsizlik qruplarına psixiatrların daxil edilməsi lazım olduğunu bildirdi.

OpenAI: Xəbərdarlıqları çatdırmaqda problem yaşayırıq

Müstəqil qəzet OpenAI-dən məsələ ilə bağlı şərh istəyib.

Şirkət daha əvvəl insanların süni intellektdən necə istifadə etmələri ilə bağlı həssaslıq və təhlükəsizlik standartlarının yüksəldilməli olduğunu bildirmişdi.  OpenAI  CEO-su Sam Altman may ayında bir podkastda psixoloji cəhətdən həssas olan ChatGPT istifadəçilərini necə düzgün xəbərdar edəcəklərini hələ başa düşmədiklərini söylədi.

Avropa.info