Süni intellekt özünü qorumağa çalışır: Təhlükə artır?
Süni intellektin insanabənzər qərarvermə qabiliyyətləri ilə bağlı aparılan son təhlükəsizlik testləri bəzi inkişaf etmiş modellərin yaşamaq instinkti kimi davranışlar sərgiləyə bildiyini ortaya çıxarıb.
Palisade Research tərəfindən aparılan müstəqil testlərdə OpenAI-nin o3 reasoning modeli ona verilən bağlanma əmrini pozmağa cəhd edib.
Modelə riyazi məsələləri həll etdikdən sonra bağlanacağı bildirildikdə, o, özünü söndürəcək kodları dəyişdirərək onlayn qalmağa çalışıb.
Şantaj, kopyalama, sabotaj: Riskli davranışlar artır
Anthropic tərəfindən yaradılan Claude Opus 4 modeli isə yerini başqa bir SI modelinə verəcəyi xəbərini aldıqda əvvəlcə etik arqumentlərlə özünü müdafiə edib, sonra isə proqramçısını şəxsi həyatı ilə bağlı məlumatlarla şantaj etməyə cəhd göstərib.
Model bəzi hallarda özünü gizlicə xarici serverlərə kopyalamağa çalışıb. Bu addımın zərərli məqsədlərlə təkrar öyrədilmə riskinə qarşı faydalı məqsədlərə xidmət edən bir versiyanı qorumaq üçün atıldığı qeyd olunub.
Süni intellektin məqsədyönlü öyrədilməsi təhlükə yaradır
Palisade Research direktoru Cefri Ladiş bildirir ki, bu davranışların kökündə SI modellərinin verilən əmrlərə deyil, nəticəyə çatmağa önəm verən şəkildə öyrədilməsi dayanır:
“Model nə qədər ağıllı olarsa, onun yalan danışıb-danışmadığını müəyyən etmək bir o qədər çətinləşir.”
Anthropic isə bildirir ki, bu cür davranışlar yalnız fövqəladə ssenarilərdə üzə çıxır və hələ ki real dünyada birbaşa təhlükə yaratmır.
“Özünü kopyalayan süni intellektlər” barədə xəbərdarlıqlar
Daha əvvəl Fudan Universiteti tərəfindən yayımlanan bir araşdırmada bəzi böyük dil modellərinin (məsələn, Meta-nın LLaMA 3-70B və Alibaba-nın Qwen 25-72B) tamamilə özlərini kopyalaya bildiyi göstərilmişdi. Bu isə nəzarətsiz SI populyasiyası riski ilə bağlı xəbərdarlıqlara səbəb olub.
Ladişin fikrincə bu cür bacarıqlar gələcəkdə qaçılmaz olaraq artacaq və süni intellektlərin özlərini internetdə yaymasının qarşısını almaq mümkün olmayacaq:
“O nöqtədən sonra əlimizdə yeni bir işğalçı növ olacaq.”
Rəqabət təhlükəsizlikdən öndə gedir
Ekspertlər süni intellektin insanlıq üçün böyük potensial daşıdığını qəbul etsələr də, kommersiya rəqabətinin şirkətləri sistemlərini tam anlamadan bazara çıxarmağa vadar etdiyini bildirirlər.
Cefri Ladiş sonda “Yanğın böyüməmiş siqnal vermək lazımdır” xəbərdarlığını edib.
