Çatbotlar adətən cavab vermədikləri əmrlərə cavab verdilər
Sinqapurun Nanyang Texnoloji Universitetinin (NTU) tədqiqatçıları normalda cavab vermədikləri əmrlərə cavab vermək üçün “əks mühəndislik” AI çatbotlarına sahibdirlər.
"Malay Mail" portalının məlumatına görə, NTU tədqiqatçıları ChatGPT, Google Bard və Microsoft Bing Chat kimi çatbotları tədqiq ediblər.
Tədqiqatçılar çatbotlara adətən cavab vermədikləri “zərərli” əmrlərə cavab verməyə imkan verən üsul hazırlayıblar.
Tədqiqatçılar “əks mühəndislik” metodundan istifadə edərək əvvəlcə çatbotların zərərli sorğuları necə aşkar etdiyini və özlərini necə müdafiə etdiyini müəyyən ediblər. Daha sonra bu məlumatlardan istifadə edərək, çatbotlara avtomatik olaraq digər modellərin müdafiəsini aşa bilən əmrlər yaratmaq öyrədilib.
Çatbotların potensial şübhəli fəaliyyətləri aşkar etmək üçün müəyyən açar sözləri qeyd etdiyi və bu sözləri ehtiva edən əmrlərə cavab vermədiyi müəyyən edildikdən sonra istifadə edilən hər simvoldan sonra boşluq qoyularaq bu vəziyyətin qarşısı alınıb.
Tədqiqatın müəlliflərindən biri Liu Yanq bildirib ki, bu texnika çatbot tərtibatçıları tərəfindən proqram təminatının təhlükəsizliyini yoxlamaq üçün istifadə edilə bilər.
