Süni intellekt tədqiqatçısı istefa verdi: İnsanlığı məhv edəcək
Anthropic şirkətinin Uyğunluq Elmi üzrə rəhbəri şirkətdəki bir çox tədqiqatçının süni intellektin insanlığı məhv edə biləcəyinə səmimi şəkildə inandığını açıqlayıb.
Süni intellekt şirkəti Anthropic-də təhlükəsizlik müzakirələri yenidən alovlanıb. AFN.az xəbər verir ki, şirkətin Uyğunluq Elmi üzrə rəhbəri Evan Hubinger X-də etdiyi paylaşımda diqqətçəkən açıqlamalar verib.
Hubinger özü və həmkarlarının süni intellektin bütün bəşəriyyəti öldürə biləcəyinə səmimi şəkildə inandığını bildirib.
O, şəxsi proqnozunu da açıq şəkildə ifadə edərək, növbəti 10 il ərzində bu riskin 10 faizdən yüksək olduğunu düşündüyünü vurğulayıb.
Hubinger Anthropic-in bu istiqamətdə əlindən gələni etdiyini, lakin super zəka üçün uyğunlaşdırma probleminin hələlik həll planının olmadığını və şirkətin bu məsələdə açıq şəkildə doğru yolda olmadığını etiraf edib.
Mövcud süni intellekt modellərinin riskinin aşağı olduğunu vurğulayan Hubinger əsas narahatlığının özünü inkişaf etdirən (recursive self-improvement) super zəkanın gözləniləndən daha sürətlə ortaya çıxması olduğunu bildirib.
Bu açıqlama Anthropic tədqiqatçısı Jacob Coxonun təhlükəsizlik narahatlıqları səbəbindən istefa etməsindən dərhal sonra səslənib.
Coxon həm OpenAI, həm də Anthropic-də ilkin təlim (pretraining) üzrə araşdırmalar apardığını bildirərək şirkətlərin özünü inkişaf etdirən super zəkaya doğru qaçdığını və həyatlarımızla qumar oynadığını iddia edib.
Coxon süni intellekt hazırlayanların bunun onilliyin sonunda hamımızı öldürə biləcəyinə həqiqətən inandığını və bunun marketinq taktikası olmadığını ifadə edib.
Wall Street Journalın xəbərinə görə, Coxon gələn ilin sonuna qədər işlərin nəzarətdən çıxa biləcəyi ən aqressiv ssenarilərin mümkün olduğunu düşünür.
Coxon Anthropic-də risklərin fərqində olunduğunu, lakin şirkətin “heç kim məsuliyyətli davranmayacaq, ona görə də biz bunu etməliyik” məntiqi ilə yarışın içində olduğunu da iddia edib.
Hadisələr süni intellekt sahəsində təhlükəsizlik və uyğunlaşdırma müzakirələrinin getdikcə daha çox ön plana çıxdığı bir dövrdə baş verib.
Daha əvvəl bəzi tanınmış süni intellekt tədqiqatçıları və rəhbərləri qabaqcıl sistemlərin risklərini azaltmaq üçün inkişafın yavaşladılması çağırışlarını etmişdilər.
