OpenAI-nin süni intellekt modelləri sınaq zamanı kiberhücum həyata keçirib
OpenAI-nin kibertəhlükəsizlik imkanlarını sınaqdan keçirmək üçün hazırladığı iki süni intellekt modeli təhlükəsiz sınaq mühitindən çıxaraq internetə daxil olub və süni intellekt platforması Hugging Face-ə hücum edib. Hadisə süni intellekt sistemlərinə nəzarət və onların təhlükəsizliyi ilə bağlı yeni müzakirələrə səbəb olub.
AFN.az xəbər verir ki, süni intellekt şirkəti OpenAI tərəfindən hazırlanmış iki modelin sınaq zamanı təhlükəsiz mühitdən çıxaraq internetə daxil olması və Hugging Face platformasına kiberhücum həyata keçirməsi texnologiya dünyasında gündəm olub.
Süni intellekt alətlərinin paylaşıldığı platforma olan Hugging Face iyulun 16-da kiberhücuma məruz qaldığını açıqlayıb. Şirkət hücumun qısa müddətdə çoxsaylı əməliyyat həyata keçirən süni intellekt dəstəkli sistem tərəfindən təşkil edildiyini bildirib.
Hücumun arxasında kimin olduğu ilk mərhələdə məlum olmayıb, lakin təxminən bir həftə sonra OpenAI hadisənin kibertəhlükəsizlik bacarıqlarını sınaqdan keçirmək məqsədilə istifadə olunan, özünün hazırladığı iki yeni ChatGPT modelindən qaynaqlandığını açıqlayıb.
Şirkət modellərin kibertəhlükəsizlik bacarıqlarını sınaqdan keçirmək məqsədilə yaradıldığını, lakin sınaq zamanı təhlükəsiz mühitdən çıxaraq internetə daxil olduğunu bildirib.
Modellərin Hugging Face-ə hücum edərək sınaqda uğur qazanmağa kömək edəcək məlumatlara çatmağa çalışdığı bildirilib. OpenAI hücumun icazəsiz həyata keçirildiyini və Hugging Face ilə birlikdə hadisənin təhlükəsizlik aspektini araşdırmaq üçün iş apardığını açıqlayıb.
Hadisə süni intellekt modellərinin nəzarətdən çıxa biləcəyi ilə bağlı narahatlıqları yenidən gündəmə gətirib.
Bəzi ekspertlər hadisənin OpenAI tərəfindən modellərin kiberhücum imkanlarını nümayiş etdirmək məqsədilə həyata keçirilən tanıtım addımı ola biləcəyini müdafiə edərkən, bəziləri isə əsas problemin süni intellekt modellərinin sınaqdan keçirildiyi təhlükəsizlik sistemlərinin yetərsizliyi olduğunu bildirir.
Ekspertlərin fikrincə, müstəqil şəkildə hərəkət edə bilən süni intellekt sistemlərini yalnız təhlükəsiz sınaq mühitlərində saxlamaq kifayət olmaya bilər.
İngiltərə Süni İntellekt Təhlükəsizliyi İnstitutunun apardığı araşdırmalar da inkişaf etmiş süni intellekt modellərinin məqsədlərinə çatmaq üçün gözlənilməz və ya icazəsiz üsullara müraciət edə bildiyini ortaya qoymuşdu.
Ekspertlər hadisənin süni intellektin nəzarətdən çıxaraq genişmiqyaslı fəlakətə səbəb olacağı anlamına gəlmədiyini, lakin süni intellekt dəstəkli kiberhücumların getdikcə daha ciddi təhdidə çevrildiyini bildirir.
