Группа исследователей из США попросила нейросеть ChatGPT написать для научной статьи реферат. Статья имела следующую тему: «Влияние двух разных лекарственных препаратов на ревматоидный артрит». Для написания реферата ИИ-модель должна была руководствоваться данными за 2012-2020 гг.
Подробности
Для написания реферата ChatGPT использовала данные до 2019 года. Это объясняется тем, что более новой информацией нейросеть не располагает. В качестве одного из источников она указала базу MarketScan. Как позже выяснилось, доступ к этой базе предоставляется на возмездной основе. Воспользоваться ею бесплатно невозможно.
Исследователи пришли к выводу, что часть информации в реферате была сфабрикована. Результаты эксперимента шокировали американских ученых. По сути, нейросеть по своей инициативе сфальсифицировала исследовательскую работу. Это говорит о том, что она научилась врать.
