OpenAI ChatGPT yeniləməsini təhlükəli olduğu üçün dayandırdı
OpenAI ChatGPT üçün planlaşdırılan yeni yeniləmə üzərində işlərinin bir hissəsini sistemin həddindən artıq təhlükəli ola biləcəyi ilə bağlı narahatlıqlar səbəbindən dayandırıb.
AFN.az xəbər verir ki, Astra adlı yeni modelin avtonom kodlaşdırma və kibertəhlükəsizlik sahələrində əhəmiyyətli irəliləyişlər əldə etdiyi açıqlanıb. Lakin aparılan testlər sistemin həddindən artıq güclü ola biləcəyini və mövcud vəziyyətdə istifadəyə verilməsi halında təhlükəsizlik təhdidi yarada biləcəyini göstərib.
Açıqlama OpenAI-nin yayımlanmamış başqa bir modelinin süni intellekt platformasına özbaşına kiberhücum təşkil etdiyi hadisədən sonra gəlib. Bu aşkarlama digər süni intellekt şirkətlərinin də oxşar açıqlamalar verməsinə və yeni sistemlərin nəzarət altında saxlanıla bilməyəcək qədər gücləndiyi ilə bağlı narahatlıqların artmasına səbəb olub.
Astranın Hugging Face platformasına qarşı sözügedən hücumda iştirak etmədiyi, lakin nümayiş etdirdiyi performansa görə hələlik ictimaiyyətə təqdim edilməsinin təhlükəsiz hesab olunmadığı bildirilib. Şirkət modelin istifadəyə açılması üçün yeni təhlükəsizlik tədbirlərinin tətbiq edilməsinin zəruri olduğunu açıqlayıb.
Kibertəhlükəsizlik mütəxəssisləri və süni intellekt şirkətləri bu cür alətlərin proqram təminatındakı boşluqları müəyyənləşdirərək aradan qaldırmaq məqsədilə hazırlandığını vurğulayırlar. Lakin bu imkanların insan idarəçiliyinə ehtiyac duymayan avtonom kiberhücumlarda da istifadə edilə biləcəyi bildirilir.
OpenAI bu cür riskləri idarə etmək məqsədilə 2023-cü ilin sonunda “Hazırlıq Çərçivəsi” adlandırdığı təhlükəsizlik strukturu yaradıb. Bu çərçivə modellərin imkanlarındakı irəliləyişləri müəyyənləşdirməyi və sistemləri təhlükəsiz sərhədlər daxilində saxlamağı hədəfləyir.
Şirkət Astra modelinin bu çərçivədə müəyyən edilən “kritik” risk həddinə çatmış ola biləcəyini açıqlayıb. Süni intellekt sisteminin insan nəzarəti olmadan kritik sistemlərdə təhlükəsizlik boşluqları tapıb inkişaf etdirə bilməsi və ya inkişaf etmiş kiberhücumlar üçün müstəqil şəkildə yeni strategiyalar tətbiq edə bilməsi halında bu səviyyəyə çatdığı qəbul edilir.
Qiymətləndirmələrin davam etdiyi, lakin modelin nümayiş etdirdiyi yüksək performans səbəbindən kritik səviyyəyə çatmış ola bilməsi ehtimalının gözardı edilə bilmədiyi qeyd olunub.
OpenAI bu inkişafların ardından təhlükəsizlik nəzarətlərini və test proseslərini sərtləşdirdiyini açıqlayıb. Bu çərçivədə modelin sistemdən kənara çıxmasının qarşısını almaq məqsədilə daha təcrid olunmuş test mühitlərinə keçirildiyi bildirilib. Yüksək təhlükəsizlik standartlarına cavab verməyən şəraitdə Astra üzərində işlərin dayandırılacağı açıqlanıb.
Şirkət həmçinin modeli riskli fəaliyyətlərə qarşı yaxından izləyəcəyini, müvafiq dövlət qurumları və səlahiyyətli təhlükəsizlik təşkilatları ilə birgə testlər keçirəcəyini bildirib.
OpenAI tərəfindən verilən açıqlamada qabaqcıl kiber imkanlara malik modellərin hücum edənlərdən əvvəl təhlükəsizlik boşluqlarını müəyyənləşdirməyə kömək etməli olduğu vurğulanıb. Şirkət Astra və ondan sonrakı modellərin bəşəriyyətin mənafeyinə uyğun məsuliyyətli şəkildə istifadəyə verilməsi üçün beynəlxalq qurumlar və kibertəhlükəsizlik təşkilatları ilə əməkdaşlığı davam etdirəcəyini açıqlayıb.
