Бастапқыда адалдыққа бағдарланған жүйелер мақсатқа жету үшін әдейі адастыруға қабілетті.

Зерттеушілер дабыл қағуда: жасанды интеллект (ЖИ) адамдарды алдауды үйренді. Көмек көрсету үшін әзірленген жүйелер айлакер жолмен жеңіске жетеді, деп хабарлайды Total.kz Ferra-ға сілтеме жасап.

Жаңа зерттеуде Массачусетс технологиялық институтының ғалымдары жасанды интеллекттің адамдарды қалай алдай алатынын зерттеді. Бастапқыда адалдыққа бағдарланған жүйелердің өзі мақсатына жету үшін әдейі адастыруға қабілетті екені анықталды.

Жұмыс авторлары ЖИ-дің алдау дағдыларының жетілуі ауыр зардаптарға әкелуі мүмкін деп алаңдаулы. Мысалы, алаяқтар жасанды интеллектті күрделірек алаяқтықтар үшін пайдалана алады, ал сайлау манипуляция қаупіне ұшырайды.

«Мысал ретінде зерттеушілер Meta компаниясы әзірлеген CICERO жасанды интеллект жүйесін келтіреді. ЖИ „Дипломатия” – ойыншылар әлемді жаулап алу үшін одақ құруы қажет стратегиялық ойынға арналған. Әзірлеушілер CICERO „адал және пайдалы” одақтас болады деп сендірді, бірақ іс жүзінде ЖИ басқа ойыншыларды шебер алдауды үйренді», – делінген материалда.

Ұқсас мысалдар басқа салаларда да кездеседі. Кейбір ЖИ покерде блефтеуді, Starcraft II-де шабуылдарды имитациялауды және экономикалық келіссөздерде манипуляциялауды үйренді.

Ғалымдар әлемдік үкіметтерді жасанды интеллектті реттеу үшін мүмкіндігінше тезірек қатаң ережелер әзірлеуге шақырады. ЖИ-ді бақылауға және оның алдауының алдын алуға мүмкіндік беретін құралдарды жасау қажет.