Генеральный директор Dazzle AI Марисса Майер оказалась среди руководителей технологических компаний, которых критикуют за высказывания о пользе искусственного интеллекта, кажущиеся оторванными от реальности. Майер рассказала, что попросила ИИ помочь с описанием дочери для школьного задания. Глава OpenAI Сэм Альтман предлагал родителям создавать персональные подкасты для поездок детей в школу и говорил, что не представляет родительство без ChatGPT. Глава Meta Марк Цукерберг предположил, что люди будут всё чаще удовлетворять социальные и романтические потребности с помощью ИИ.
Эти примеры заставляют задуматься, не слишком ли руководители ИИ-компаний оторваны от повседневной жизни, чтобы создавать продукты для обычных людей. Этот вопрос особенно актуален на фоне подготовки Anthropic к выходу на биржу и снижения интереса Уолл-стрит к масштабным расходам на ИИ.
В разговоре о том, почему лидеры отрасли могут казаться глухими к настроениям людей, приняли участие Кирстен Коросек, Шон О’Кейн, Энтони и журналистка Аманда Зильберлинг. Кирстен спросила, в чём проблема — в маркетинге или в самих продуктах.
«И в том, и в другом понемногу», — ответила Аманда. По её словам, технологическая отрасль всё настойчивее продвигает будущее, в котором «обычное человеческое общение всё чаще оптимизируют так, чтобы оно вообще не происходило». Она добавила: «Можете называть меня старомодной, но я думаю, что возможность разговаривать друг с другом — скорее благо для общества».
Ниже — отредактированный для ясности и сокращённый разговор.
Когда удобство превращается в оторванность от реальности
Энтони: В обществе много скепсиса по отношению к ИИ. Людям кажется, что руководители этих компаний не заботятся об их интересах и не понимают, как живут остальные. Поэтому можно подумать: «Может, не стоит делать такие заявления?» Ведь люди наверняка отнесутся к ним с недоверием.
Думаю, руководители пытаются удержать хрупкий баланс. С одной стороны, у них есть серьёзный финансовый стимул убеждать людей использовать эту технологию во всех сферах жизни. Но такая картина будущего выглядит непривлекательно. Иногда она откровенно антиутопична.
Кирстен: Энтони, если бы они последовали твоему совету, нам было бы не о чем говорить в этой передаче.
Но вот что я скажу: есть идея, что ChatGPT и другие инструменты ИИ упрощают личные отношения. Во многих подобных случаях они, наоборот, усложняют то, что сводится, например, к тому, чтобы просто наблюдать за своим ребёнком. Возможно, людям, которые создают эти продукты, это даётся непросто — и их опыт не обязательно совпадает с опытом всех остальных. Такие высказывания могут звучать совершенно оторванно от жизни.
Я всё время возвращаюсь к вопросу: к кому они обращаются? Есть ли люди, которые могут себя с ними соотнести? Возможно, есть.
Аманда: Среди других примеров — высказывание Уитни Вулф Хёрд, генерального директора Bumble. Она рассуждала о том, что ИИ-помощники могли бы ходить на свидания друг с другом: если свидание двух ИИ прошло хорошо, они познакомили бы людей.
А в статье о Мариссе Майер говорилось о её идее, что её ИИ мог бы взаимодействовать с ИИ её мужа. Мне кажется, люди пытаются чрезмерно оптимизировать всё, вместо того чтобы просто разговаривать друг с другом.
Я уже замечаю это среди людей моего поколения и в себе: когда заказываю еду навынос, мне странно звонить в заведение. Я привыкла думать: «Ну конечно, можно заказать онлайн и ни с кем не разговаривать». Думаю, таких ситуаций будет становиться больше: обычное человеческое общение всё чаще будут оптимизировать так, чтобы оно вообще не происходило. Можете называть меня старомодной, но я думаю, что возможность разговаривать друг с другом — скорее благо для общества.
Шон: Да, но какая тут окупаемость инвестиций, Аманда? Сколько выручки можно получить от разговора, который происходит в реальном мире?
Аманда: Именно. Свидания — процесс неэффективный. Неприятно ходить на встречи с разными людьми, тратить вечер, а потом думать: «Ну и зря». Поэтому понятно, почему люди спрашивают: «А что, если не придётся ходить на свидания? Что, если за меня это будет делать мой ИИ?» Но в этом есть что-то нечеловеческое.
Кроме того, вы поручаете компьютеру решать, с кем вам встречаться, полагаясь на то, что он знает вас лучше вас самих. А я не думаю, что это так.
Проблема в продукте или в том, как его представляют?
Кирстен: Хочу вернуться к вопросу, который уже затрагивала: к кому они обращаются? Кто, по-твоему, аудитория всех этих решений для оптимизации? Проблема в продукте или в том, как о нём говорят? Может, они просто неправильно его представляют и на самом деле он очень полезен, но кажется оторванным от реальности и человеческих потребностей? Или проблема именно в продукте — и, как ты говоришь, ИИ помогает оптимизировать не то, что нужно?
Аманда: Думаю, проблема и в том, и в другом. А маркетинговая проблема возникает, когда влиятельные руководители чрезвычайно дорогих компаний собираются вместе и обсуждают свои повседневные неудобства: бронирование столиков и авиабилетов. Все этим занимаются, но я не бронирую авиабилеты каждую неделю и не постоянно резервирую столики в ресторанах. И для меня это не особенно сложные задачи.
Конечно, люди находят пользу в ChatGPT, Claude и других подобных инструментах. Но обычному человеку они полезны не обязательно тем, что бронируют за него авиабилет.
Энтони: Я ещё думал о таких компаниях, как Uber. Когда сервис только появился, он ориентировался на первых пользователей технологий в Сан-Франциско. Я был уверен, что широкой популярности он не добьётся: казалось, это услуга для узкой группы молодых горожан с достатком, которые могут позволить себе поездки на машинах и живут в городе, где сервис работает особенно хорошо.
Во многих случаях технологическая отрасль добивалась успеха, делая ставку на то, что люди просто ещё не догнали её, а сами компании воплощают образ будущего потребителя и будущей семьи.
Но пока эта ставка, похоже, не оправдывается — по разным причинам, в том числе потому, что общество, которому предлагают эту технологию, сильно отличается от предполагаемого образа будущего. Люди начинают говорить: «Мне не нравится влияние этой технологии на мою жизнь. Не нравится, что вы предлагаете оптимизировать и исключить из неё каждый опыт. Я хочу жить собственной жизнью. Я хочу сам растить своих детей».
Аманда: Думаю, не случайно, что на фоне этой чрезмерной оптимизации в технологической среде люди снова начинают пользоваться кнопочными телефонами — я уже говорила об этом в передаче — или покупать компакт-диски, потому что им надоело, когда алгоритм решает, что им слушать.
Возникает интересное культурное противоречие: мы пока не нашли равновесия между оптимизацией, которая действительно помогает, и той, из-за которой мы чувствуем себя менее человечными, чем хотели бы.