Група дослідників зі США попросила нейромережу ChatGPT написати для наукової статті реферат. Стаття мала таку тему: “Вплив двох різних лікарських препаратів на ревматоїдний артрит”. Для написання реферату ШІ-модель мала керуватися даними за 2012-2020 рр.
Подробиці
Для написання реферату ChatGPT використовувала дані до 2019 року. Це пояснюється тим, що новішою інформацією нейромережа не володіє. Як одне з джерел вона вказала базу MarketScan. Як пізніше з’ясувалося, доступ до цієї бази надається на оплатній основі. Скористатися нею безкоштовно неможливо.
Дослідники дійшли висновку, що частина інформації в рефераті була сфабрикована. Результати експерименту шокували американських учених. По суті, нейромережа за своєю ініціативою сфальсифікувала дослідницьку роботу. Це свідчить про те, що вона навчилася брехати.
