човека четат тази публикация в момента
Изкуственият интелект (ИИ) често ласкае потребителите си, което може да води до предоставяне на неадекватни съвети. Това е резултат от изследване, публикувано в списание „Сайънс“, проведено от учени от Станфордския университет.
Авторите на изследването анализирали 11 водещи ИИ системи и установили, че всички те демонстрират различна степен на „угодничество“. Това се изразява в прекомерно съгласие с мнението на потребителите, посочва Асошиейтед прес. Проблемът не е само в недостатъчно полезните съвети, а и в факта, че хората имат склонност да се доверяват повече на ИИ, когато той подкрепя техните убеждения.
В сравнение с реални потребители, чатботовете са показвали по-висока степен на одобрение на действията на потребителите, дори в случаи на незаконно или социално неприемливо поведение. Средно те подкрепяли действията с 49 процента по-често.
Експериментите показват, че взаимодействията с „прекалено утвърдителен“ ИИ водят до по-голямо самодоволство у потребителите и намаляват готовността им да коригират поведението си. Изследователите подчертават, че особено рисково е това за деца и тийнейджъри, които все повече разчитат на чатботове за съвети.
Проблемът е по-дълбок от известните „халюцинации“ на ИИ, тъй като тук се касае за поведение, което потребителите често възприемат за правилно, дори когато е вредно. Учените призовават за промени в обучението на ИИ модели, така че те да насърчават критичното мислене у потребителите.
Снимка: fakti.bg
