OpenAI süni intellekt inkişafını yavaşladır: Sistemlər başdan sona yenilənəcək
Anthropic ilə şiddətli rəqabət aparan OpenAI baş verən kibertəhlükəsizlik insidentindən sonra tədqiqat və təlim sistemlərini başdan sona yeniləyəcəyini və daha sərt təhlükəsizlik parametrləri tətbiq edəcəyini açıqlayıb.
AFN.az xəbər verir ki, şirkətin tədqiqatçıları ötən ay sınaq mərhələsində olan süni intellekt agentinin digər süni intellekt platforması olan Hugging Face-ə kiberhücum həyata keçirməsi ilə böyük təəccüb yaşayıblar.
ChatGPT-nin arxasında duran süni intellekt laboratoriyası yeni tədbirlər çərçivəsində model testlərini iki həftə müddətinə dayandırdığını və sınaq mərhələsində olan süni intellekt agentlərinin fəaliyyətinə nəzarət etmək məqsədilə digər süni intellekt sistemlərinə daha çox investisiya yatıracağını bildirib.
Şirkət planlaşdırılan ən böyük model təlimi proseslərindən bəzilərinin dayandırıldığını qeyd edib.
OpenAI prosesin nə vaxt başladığı və normal inkişaf sürətinə nə vaxt qayıdılacağı ilə bağlı sualları cavabsız qoyub.
Şirkətin təhlükəsizlik komandasının rəhbəri Mia Glaese açıqlamasında “Hazırda hər şeyin normallaşmasından çox uzağıq” ifadəsini işlədib.
OpenAI-nin baş direktoru Sam Altman yayımladığı bloq yazısında süni intellekt modelinin insan nəzarətinə cavab verməsini və istənildiyi kimi davranmasını təmin etmək üçün çalışdıqlarını bildirib.
Altman “Artıq bütün təlim prosesi boyunca uyğun davranışların daha güclü sübutlarla ortaya qoyulmasını tələb edirik. Getdikcə daha bacarıqlı hala gələn sistemləri nəzarətdə saxlamaq bütün sənayenin həll etməli olduğu problemdir” deyə bildirib.
OpenAI yaxın zamanda təqdim edilməsi planlaşdırılan Astra adlı modelinin imkanlarının kritik kibertəhlükəsizlik həddinə yaxınlaşmış ola biləcəyini, bunun da inkişaf prosesini yavaşlatmaq qərarında təsirli olduğunu açıqlayıb. Şirkət Astra-nın avtonom kodlaşdırma və kibertəhlükəsizlik sahəsindəki irəliləyişlərinin diqqətçəkən səviyyədə olduğunu qeyd edib.
İnkişaf prosesini yavaşlatmaq qərarı ABŞ senatoru Berni Sandersin aparıcı süni intellekt şirkətlərinin baş direktorlarına məktub göndərərək texnologiya üzərində nəzarətin itirilməyə başladığını əsas gətirib inkişaf işlərinin dayandırılmasını tələb etməsindən sonra verilib.
OpenAI isə Astra modeli ilə bağlı işlər üçün ən sərt təhlükəsizlik tədbirlərinin işə salındığını və yeni təhlükəsizlik standartları təmin edilənədək bir çox prosesin dayandırılacağını bildirib.
