Пентагон активно разрабатывает системы искусственного интеллекта в целях боевого применения

Военное ведомство США проводит четырехдневный симпозиум по теме военного использования больших языковых моделей искусственного интеллекта, таких как ChatGPT. Цель симпозиума - обсудить с разработчиками программного обеспечения возможности ускорить разработку военных приложений, которые могут создать преимущество для армии США на поле боя.Главным докладчиком на мероприятии стал доктор компьютерных наук Крейг Мартелл — директор главного управления цифровых технологий и искусственного интеллекта Пентагона (CDAO). Открывая симпозиум в переполненном бальном зале отеля Washington Hilton он в частности заявил:

Все хотят работать на основе данных так сильно, что готовы поверить в волшебство. Способность больших языковых моделей (или LLM), таких как ChatGPT, просматривать гигантские массивы информации в течение нескольких секунд и кристаллизовывать эти массивы в несколько ключевых моментов открывают невероятные возможности для военных и разведывательных агентств, которые захлебываются в постоянно растущем океане необработанных разведданных, доступных в эпоху цифровых технологий.После первоначальных восторгов по всему миру по поводу появления ChatGPT и генераторов изображений типа дип-фейк, чиновники Пентагона озаботились тем, что ИИ может быть использован против интересов США. Главная опасность в том, что появляющаяся технология искусственного интеллекта может изменить правила игры для военных. И поэтому она нуждается в интенсивном тестировании на предмет возникающих уязвимостей, которыми могли бы воспользоваться противники. Поток информации, поступающей к человеку, особенно в условиях высокой военной активности, огромен. Наличие надежных методов обобщения, которые могут помочь нам управлять этой информацией, имеет решающее значение - сказал на симпозиуме капитан ВМС США М. Ксавьер Луго, командир недавно сформированной целевой группы по генеративному ИИ в CDAO.Еще одно возможное военное применение LLM может включать обучение офицеров с помощью сложных военных игр, а также помощь в принятии решений в режиме реального времени. Пол Шарре, бывший чиновник Министерства обороны, вице-президент Центра новой американской безопасности заявил:Большинство систем искусственного интеллекта имеют узкую направленность, они способны выполнять лишь одну задачу: AlphaGo может играть в Go, системы распознавания лиц могут только распознавать лица. В то же время главным мостом к способностям более общего назначения является, по-видимому, язык.По мнению М. Ксавьер Луго, критическим пока недостатком систем LLM является то, что у них могут возникать “галлюцинации”, в ходе которых они вызывают в воображении неточную информацию. Пока неясно, можно ли это исправить, поэтому это можно назвать проблемой номер один для промышленного использования ИИ.Шеннон Галлахер, исследователь из Карнеги-Меллона, рассказала о том, как LLM могут использоваться спецслужбами на примере "китайского теста с воздушным шаром” (инцидент с китайским воздушным шаром наблюдения произошел в прошлом году):Китайцы сразу не смогли определить причину сбоя. Я уверена, что в следующий раз у них все получится правильно. Они китайцы, поэтому у них все получитсяВ целом развитию ИИ в Китае на симпозиуме уделено огромное внимание. Шарре подсчитал, что китайские модели искусственного интеллекта в настоящее время отстают от американских на 18-24 месяца. Однако это отставание преодолимо вследствие дешевизны рабочей силы в Китае, так как маркировка данных для LLM является трудоемкой, но ключевой задачей при обучении моделей ИИ. Китай заявил, что хочет стать мировым лидером в области искусственного интеллекта к 2030 году. Поэтому технологические санкции США не будут сняты с Китая, чтобы предотвратить ускоренное развитие КНР.