Провідний експерт Пентагону з ШІ зізнався у смертельному страху перед ChatGPT

Крейг Мартелл, який обіймає в Міноборони США посаду провідного фахівця зі ШІ та цифрових технологій, розповів, що він думає про ChatGPT. Думка експерта була оприлюднена журналістами Breakingdefense.

Подробиці

За словами Мартелла, ChatGPT налякав його до смерті. Річ у тім, що генеративний ШІ може створити реальну проблему. Мовні моделі на кшталт GPT-4 не розуміють контексту. При цьому звичайні люди сприймають їхні відповіді як незаперечний факт.

Мартелл підкреслив, що мовна модель GPT-4 вільно висловлює свої думки. Вона робить це настільки впевнено й авторитетно, що люди вірять їй на слово навіть у тому разі, коли їхній увазі пропонується абсолютно недостовірна інформація. Такий стан справ робить GPT-4 ідеальним інструментом для дезінформації.

Експерт додав, що наразі людство не має у своєму розпорядженні інструментів, які дають змогу визначати, коли нейромережа бреше, а коли говорить правду. Він закликав фахівців зі ШІ зайнятися створенням таких інструментів. Вони будуть використовуватися для забезпечення точності даних, що надаються генеративними моделями – від текстової інформації до зображень.