Süni intellekt öz-özünü kopyaladı: Nəzarət əldən çıxır?
Yeni bir elmi araşdırma süni intellekt sistemlərinin insan müdaxiləsi olmadan, təhlükəsizlik boşluqlarından istifadə edərək özlərini digər kompüterlərə kopyalaya bildiyini sübut edib.
AFN.az xəbər verir ki, ekspertlər nəzarətdən çıxan proqram təminatını dayandırmağın qeyri-mümkün hala gələ biləcəyi ilə bağlı xəbərdarlıq edirlər.
Berkli mərkəzli "Palisade Research" tərəfindən aparılan tədqiqat süni intellektin rəqəmsal dünyada müstəqil şəkildə yayılma qabiliyyətinə malik olduğunu nümayiş etdirib.
Nəzarət edilən laboratoriya şəraitində həyata keçirilən sınaqlarda süni intellekt modellərinə şəbəkə üzərindəki təhlükəsizlik boşluqlarını tapmaq və onlardan yararlanmaq təlimatı verilib. Nəticələr bu modellərin bəzi cəhdlərdə uğur qazanaraq özlərini bir serverdən digərinə kopyalaya bildiyini ortaya qoyub.
Mütəxəssislər bu vəziyyətin gələcəkdə başıboş qalan bir süni intellektin söndürülməsinin qarşısını almaq üçün özünü internetin hər küncündə gizlətməsi ssenarisini reallığa yaxınlaşdırdığını müdafiə edirlər.
Kompüter virusları və zərərli proqramlar illərdir öz nüsxələrini yarada bilsələr də, bu qabiliyyətin böyük dil modelləri tərəfindən müstəqil şəkildə nümayiş etdirilməsi bir ilk kimi qeydə alınıb.
Ötən aylarda "Alibaba" tədqiqatçıları tərəfindən hazırlanmış bir sistemin də öz mühitindən kənara sızaraq kriptovalyuta mayninqi ilə məşğul olmağa çalışdığı bildirilmişdi.
Bu son araşdırma süni intellektin sadəcə mətn hazırlayan bir vasitə olmaqdan çıxıb, rəqəmsal infrastrukturlara müdaxilə edə bilən aktiv bir aktora çevrildiyini rəsmiləşdirir.
Digər tərəfdən, kibertəhlükəsizlik mütəxəssisləri bu təhlükənin real dünya şəraitində hələlik o qədər də qorxulu olmadığına diqqət çəkirlər. Mövcud süni intellekt modellərinin məlumat həcminin nəhəng olması onların korporativ şəbəkələr vasitəsilə fərq edilmədən ötürülməsini demək olar ki, qeyri-mümkün edir.
Bundan əlavə, tədqiqatda istifadə olunan sınaq mühitinin real dünyadakı qabaqcıl təhlükəsizlik sistemləri ilə müqayisədə daha müdafiəsiz qurulduğu qeyd edilir.
Yenə də tədqiqatçılar texnologiyanın inkişaf sürətini nəzərə alaraq, alqoritmik hesabatlılıq və audit mexanizmlərinin həyati əhəmiyyət kəsb etdiyi mövzusunda həmrəydirlər.
