Президент Дональд Трамп объявил о запуске America.gov — чат-бота на базе искусственного интеллекта, который должен помогать людям находить государственные услуги и другую информацию.
Google подтвердила, что участвует в запуске, а её модель Gemini используется в проекте. Главный дизайнер США Джо Геббиа добавил, что правительство также использовало Grok.
«Вместо того чтобы заставлять граждан блуждать по бесконечному лабиринту из десятков тысяч правительственных сайтов и правил… теперь у вас будет единая точка входа для любого вопроса», — написал Трамп в публикации в X.
Упростить доступ к государственным услугам — достойная цель. Но лучший ли способ добиться этого — чат-бот с искусственным интеллектом? Большие языковые модели не безошибочны и склонны галлюцинировать. Сообщалось, что американские военные едва не начали вооружённую операцию против китайского судна, которое считали перевозчиком компонентов ядерного оружия. В последний момент операцию отменили, выяснив, что предполагаемая угроза была галлюцинацией ИИ.
Ошибочный ответ America.gov, вероятно, не приведёт к ядерной войне, но последствия ошибки всё равно могут быть серьёзными. Люди могут полагаться на чат-бота, когда ищут сведения о получении продовольственных пособий, продлении визы или подаче налоговой декларации. Ошибка способна привести к пропуску срока, отказу в пособии или штрафу.