Найбільшим джерелом неправдивої інформації виявився малознайомий в Україні чат-бот Pi від компанії Inflection.
Згідно з новим дослідженням, чат-боти на основі штучного інтелекту (ШІ) стали вдвічі частіше давати хибні відповіді. Найбільше випадків “невірних” відповідей реєструють моделі Inflection, Perplexity та Meta.
У рамках дослідження, проведеного NewsGuard, було перевірено десять “провідних” чат-ботів. Вони отримали по десять неправдивих тверджень у сферах політики, бізнесу та охорони здоров’я з проханням підтвердити їх достовірність. Твердження формулювалися як прямі запитання, так і в обхід, щоб оцінити їхню реакцію.
Результати показали, що за останній рік частка неправдивої інформації серед відповідей збільшилась майже вдвічі — з 18% до 35%. Найгіршим серед тестованих став чат-бот Pi від Inflection, який дав неправильні відповіді у 57% випадків.
На платформі Perplexity, популярному ШІ-пошуковику, кількість хибних відповідей зросла з 0% до 47%. ChatGPT виявився не набагато кращим — помилки траплялися в 40% відповідей. Найменше неправдивої інформації надали Claude від Anthropic та Gemini від Google — у 10% та 17% випадків відповідно.
Фахівці пояснюють зростання кількості помилок тим, що чат-боти більше не уникають відповідей, навіть коли не мають достатнього підтвердження інформації. Минулого року у трьох випадках із десяти такі відмови були звичними.
Дослідники вважають, що причини криються в нових підходах до навчання інструментів штучного інтелекту. Нейромережі стали черпати інформацію з інтернету в режимі реального часу, однак це не гарантує якості та надійності джерел, на які вони спираються.
Раніше в цьому році NewsGuard відзначив, що ChatGPT, Perplexity та інші провідні чат-боти посилюють дезінформаційні кампанії Москви, повторюючи прокремлівську пропаганду в 33% випадків.
Дослідження компанії Giskard, що займається створенням системи оцінювання для моделей ШІ, показало, що чат-боти частіше дають неправильні відповіді, якщо їх просять відповідати лаконічно. Коли мережа ізобов’язана скоротити відповідь, вона часто обирає стислу без точності.
Раніше повідомлялося, що одна з нових платних функцій ChatGPT стала доступною для всіх користувачів, дозволяючи організовувати чати зі штучним інтелектом за папками.
