Şirkət hesab edir ki, gələcəyin əsas problemi daha ağıllı süni intellekt yaratmaq deyil, onu etibarlı şəkildə nəzarətdə saxlamaq olacaq
"Google DeepMind" süni intellekt sistemlərinin nəzarətdən çıxmasının qarşısını almaq üçün "AI Control Roadmap" adlı yeni təhlükəsizlik strategiyasını təqdim edib.
Moderator.az xəbər verir ki, bu barədə "bbc.com" nəşri yazıb.
Şirkət ən qabaqcıl süni intellekt modellərinin təşkilat daxilində "vicdansız əməkdaş" kimi davrana biləcəyini nəzərə alaraq çoxsəviyyəli nəzarət sistemi hazırladığını bildirib.
Yeni sistemdə digər etibarlı süni intellekt modelləri "nəzarətçi" rolunu oynayır. Onlar əsas modelin qərarlarını və hərəkətlərini real vaxt rejimində izləyir, şübhəli davranış aşkar etdikdə isə həmin əməliyyatı dərhal dayandırırlar.
"Google" bildirib ki, bir milyondan çox proqramlaşdırma tapşırığının təhlili zamanı problemlərin əksəriyyəti modelin qəsdən zərər verməsindən deyil, tapşırığı yanlış başa düşməsindən və ya məqsədə həddindən artıq can atmasından qaynaqlanıb. Bu isə bəzən məlumatların təsadüfən silinməsi kimi nəticələrə səbəb olub.
Məqalədə qeyd olunur ki, "Anthropic və OpenAI" - də oxşar təhlükəsizlik mexanizmləri hazırlayır. Bununla belə, ekspertlər hesab edirlər ki, gələcəkdə əsas vəzifə süni intellekti yalnız xaricdən nəzarətdə saxlamaq deyil, təhlükəsizlik qaydalarını birbaşa onun daxilinə inteqrasiya etmək olacaq.
