Крейг Мартелл, занимающий в Минобороны США пост ведущего специалиста по ИИ и цифровым технологиям, рассказал, что он думает о ChatGPT. Мнение эксперта было обнародовано журналистами Breakingdefense.
Подробности
По словам Мартелла, ChatGPT напугал его до смерти. Дело в том, что генеративный ИИ может создать реальную проблему. Языковые модели вроде GPT-4 не понимают контекста. При этом обычные люди воспринимают их ответы как непреложный факт.
Мартелл подчеркнул, что языковая модель GPT-4 свободно выражает свои мысли. Она делает это настолько уверенно и авторитетно, что люди верят ей на слово даже в том случае, когда их вниманию предлагается абсолютно недостоверная информация. Такое положение дел делает GPT-4 идеальным инструментом для дезинформации.
Эксперт добавил, то в настоящий момент человечество не располагает инструментами, позволяющими определять, когда нейросеть врет, а когда говорит правду. Он призвал специалистов по ИИ заняться созданием таких инструментов. Они будут использоваться для обеспечения точности данных, предоставляемых генеративными моделями — от текстовой информации до изображений.
