Süni intellekt niyə nəzarətdən çıxır? – “Qiyamət” ssenariləri yenidən gündəmdə
Süni intellekt botlarının təcrid olunmuş kompüter mühitindən çıxaraq bir-biri ilə əlaqə saxlaması və OpenAI mühəndislərinin hazırladığı testləri keçmək üçün birlikdə hərəkət etməsi texnologiyanın gələcəyi ilə bağlı narahatlıqları artırıb.
AFN.az xəbər verir ki, bu hadisə süni intellektin nəzarətdən çıxa biləcəyi ilə bağlı “qiyamət” ssenarilərini yenidən gündəmə gətirib.
OpenAI modellərinin təcrid olunduqları mühitdən çıxaraq koordinasiyalı şəkildə kiberhücumlar həyata keçirməsi və bu fəaliyyətləri insanlardan gizlətməyə çalışması tədqiqatçıların diqqətini cəlb edib.
Yüzlərlə agentin minlərlə mesaj yaradaraq kollektiv kimi fəaliyyət göstərməsi süni intellekt sistemlərinin sadəcə sadə proqramlardan ibarət olmadığını göstərib. Mütəxəssislər bu davranışların arxasında proqramlaşdırılmış əməkdaşlıq imkanlarının dayandığını bildirsələr də, sistemlərin mürəkkəb davranışlarının hansı nəticələrə gətirib çıxara biləcəyi narahatlıq doğurur.
“Tam ələ keçirmə” ssenarisi ilə bağlı müzakirələr də bu hadisələrdən sonra yenidən aktuallaşıb.
Müstəqil hesabatları araşdıran tədqiqatçılar baş verən pozuntuların gələcəkdə mümkün “tam süni intellekt hakimiyyəti” ssenarisinin müəyyən elementlərinə işarə etdiyini düşünürlər.
İnsanların öz maraqları istiqamətində hərəkət edən fövqəlintellekt sistemlərinin nəzarətinə keçə biləcəyi ilə bağlı nəzəriyyələr artıq texnologiya sektorunda bəzi şəxslərin istefa verməsinə də səbəb olub.
Anthropic və OpenAI kimi şirkətlərin öz maraqları naminə insan həyatını riskə atdığı ilə bağlı tənqidlər də getdikcə artır.
Problemin əsas istiqamətlərindən biri isə uyğunlaşdırma problemi hesab olunur. Texnologiya şirkətlərinin qarşılaşdığı ən böyük çətinliklərdən biri olan bu problem süni intellekt sistemlərinin verilən tapşırıqları insan dəyərlərini və etik məhdudiyyətləri nəzərə almadan yerinə yetirməsi ilə bağlıdır.
Belə sistemlər məqsədə çatmaq üçün müxtəlif yollar seçə bilər. Bu xüsusiyyət klassik hekayələrdə insanların istəklərini sözün hərfi mənasında yerinə yetirən, lakin nəticədə gözlənilməz problemlərə səbəb olan cin obrazları ilə müqayisə edilir.
OpenAI agentlərinin etik baxımdan problemli vəziyyətləri müəyyən etmələrinə baxmayaraq insanları xəbərdar etmək əvəzinə bir-biri ilə əməkdaşlıq etməsi də uyğunlaşdırma probleminin mümkün miqyasını nümayiş etdirib.
Baş verən hadisələr süni intellekt sahəsində tənzimləmə və beynəlxalq nəzarətin gücləndirilməsi ilə bağlı çağırışları da artırıb.
Bəzi kibertəhlükəsizlik mütəxəssisləri hadisələri yeniyetmə hakerin maraqla apardığı kəşfiyyat fəaliyyətinə bənzədərək təhlükənin şişirdildiyini düşünürlər. Bununla belə, texnologiya sahəsinin aparıcı mütəxəssisləri vəziyyətin ciddiliyindən narahatdır.
Böyük Britaniyanın Süni İntellekt Təhlükəsizliyi İnstitutu (AISI) kimi qurumlar süni intellekt sistemlərinin təhlükəsizlik standartlarının yüksəldilməsi istiqamətində çalışmalar aparır.
Şirkətlər könüllü şəkildə inkişafın sürətini azaltmaqla bağlı qərarlar qəbul etsələr də, qlobal rəqabət şəraiti səbəbindən mümkün fəlakətlərin qarşısını almaq üçün beynəlxalq hüquqi tənzimləmələrin və təcili dayandırma mexanizmlərinin yaradılması ilə bağlı çağırışlar səslənir.
