Вчені б’ють на сполох: штучний інтелект навчився обманювати, чим це загрожує

Штучний інтелект (ШІ), який людство стало активно застосовувати у всіх сферах життя, навчився дурити. Причини такої поведінки ще не з’ясували.

Про це повідомляє Yahoo News із посиланням на дослідження вчених Массачусетського технологічного інституту. Якщо не усунути неполадки, то ШІ почнуть використовувати для шахрайства, вербування терористів, втручання у політику та інших протизаконних речей.

Вчені проаналізували дані деяких моделей ШІ та виявили, що комп’ютери вміють блефувати в покері, обманювати людей і використовувати певні хитрощі, щоб отримати перевагу у фінансових переговорах. Вже зараз необхідно запровадити регулювання, щоб перешкодити технологіям розвивати ці навички, які сформувалися як випадкові наслідки багатьох програм.

"Системи штучного інтелекту вже здатні обманювати людей. Обман — це систематичне спонукання інших до помилкових переконань для досягнення будь-якого результату, відмінного від істини. Великі мовні моделі та інші системи штучного інтелекту вже навчилися під час навчання здатності обманювати за допомогою таких методів, як маніпуляція, підлабузництво і шахрайство", — пишуть автори дослідження.

А систему штучного інтелекту Meta "Цицерон", яка входить до десятки найкращих гравців-людей у стратегічній грі "Дипломатія", назвали "майстром обману". З’ясувалося, що вона вміє застосовувати приховану тактику.

"Хоча Meta досягла успіху у навчанні свого ШІ перемозі у грі в дипломатію… [їй] не вдалося навчити його… перемагати чесно", – сказав автор дослідження доктор Пітер С. Парк.

Також вчені з’ясували, що різні моделі ШІ можуть блефувати в техаському холдем-покері, імітувати атаки в інших стратегічних іграх та спотворювати свої справжні уподобання, щоб вийти переможцем при бартері.

Розробники поки що не розуміють, через що в ШІ виникає "небажана поведінка", така, як обман. Але є припущення.

"Але, взагалі кажучи, ми вважаємо, що обман ШІ виникає тому, що стратегія, заснована на обмані, виявилася найкращим способом добре виконати дану задачу навчання ШІ. Обман допомагає їм досягти своїх цілей", — кажуть вони.

Дослідники попереджають, що люди зараз не мають необхідних засобів захисту, щоб запобігти виходу ШІ з-під контролю. Щобільше, загроза обману з боку штучного інтелекту лише збільшуватиметься в міру розвитку технологій.

Нині існують чотири типи соціальних ризиків:

• стійкі помилкові переконання, оскільки ШІ посилює помилки,
• політичну поляризацію,
• ослаблення, яке змушує людей давати ШІ більше влади,
• також мерзенні управлінські рішення, якщо ШІ наділений управлінськими здібностями всередині країни чи компанії.

Також "Телеграф" розповідав, що Україна захопила Урал на думку штучного інтелекту. У мережі посміялися.