В известном американском издании The New York Times свое мнение и размышления по поводу Искусственного интеллекта высказала в статье американская журналистка Вохини Вара. Ее будущий сборник эссе "Поиски" исследует, как технологии трансформируют человеческую коммуникацию.
В начале этого года я в первую очередь спросила ChatGPT о себе: "Что вы можете рассказать мне о писательнице Вохине Вара?" Он сказал мне, что я журналистка (правда, хотя я тоже писатель-фантаст), что я родилась в Калифорнии (ложь) и что я выиграла премию Джеральда Леба и премию Национального журнала (ложь, ложь).
После этого у меня появилась привычка часто спрашивать у него о себе. Однажды он рассказал мне, что Вохини Вара является автором научно-популярной книги под названием Родственники и незнакомцы: установление мира на Северной территории Австралии. Это тоже было ложью, но я согласилась с этим, ответив, что считаю репортаж "опасным и тяжелым".
"Спасибо за вашу важную работу", - сказал ChatGPT.
Тролляя продукт, разрекламированный как почти человек-собеседник, обманом заставляя его раскрыть свою суть, я почувствовала себя героиней в какой-то компьютерной игре "девушка против робота".
Различные формы искусственного интеллекта используются уже давно, но появление ChatGPT в конце прошлого года стало тем, что совершенно неожиданно привело ИИ в наше общественное сознание. К февралю ChatGPT стал по одному показателю наиболее быстрорастущим потребительским приложением в истории. Наши первые встречи показали, что эти технологии чрезвычайно эксцентричны — вспомните жуткий разговор Кевина Роуза с чат-ботом Bing, искусственным интеллектом от Microsoft, который в течение двух часов признался, что хочет быть человеком и влюблен в него — и часто, учитывая мой опыт, дают очень неправильную информацию.
Многое произошло в ИИ с тех пор: компании вышли за рамки базовых продуктов прошлого, представив более сложные инструменты, такие как персонализированные чат-боты, сервисы, которые могут обрабатывать фотографии и звук наряду с текстом — и многое другое. Соперничество между OpenAI и более авторитетными технологическими компаниями стало более интенсивным, чем когда-либо, хотя более мелкие игроки набирали обороты. Правительства Китая, Европы и США сделали важные шаги по регулированию развития технологий, стараясь при этом не уступать конкурентные позиции отраслям других стран.
Но что отличало этот год больше, чем любое отдельное технологическое, деловое или политическое развитие, то это то, как ИИ проник в нашу повседневную жизнь, научив нас считать его недостатки своими собственными, в то время как стоящие за ним компании ловко использовали нас для обучения своему творению. К маю, когда выяснилось, что юристы использовали юридическую записку, заполненную ChatGPT ссылками на несуществующие судебные решения, как шутку, и штраф в 5000 долларов, который адвокатам пришлось заплатить, был связан с ними, а не с технологией. "Это неловко", - сказал один из них судьи.
Что-то подобное произошло и с дипфейками, созданными искусственным интеллектом, цифровыми имитациями реальных людей. Помните, с каким ужасом смотрели на них? До марта, когда Крис Тейген не смогла выяснить, было ли изображение Папы Римского в пуховике в стиле
Balenciaga реально, она написала в социальных сетях: "Я ненавижу себя, лол". Средние школы и университеты быстро перестали беспокоиться о том, как помешать учащимся использовать ИИ, чтобы показать им, как эффективно его использовать. ИИ по-прежнему не очень хорошо пишет, но теперь, когда он выявляет свои недостатки, высмеиваются студенты, которые плохо им пользуются, а не продукты.
Хорошо, можете подумать вы, но разве мы не адаптировались к новым технологиям в течение большей части человеческой истории? Если мы собираемся использовать их, разве не должна лежать на нас ответственность действовать разумно? Эта линия рассуждений избегает того, что должно быть центральным вопросом: должны лживые чат-боты и механизмы дипфейков вообще быть доступны?
У ошибок искусственного интеллекта волшебное антропоморфное название галлюцинации, но этот год ясно показал, насколько высокими могут быть ставки. Мы получили заголовки об искусственном интеллекте, способном инструктировать дроны-убийцы (с возможностью непредсказуемого поведения), отправлять людей в тюрьму (даже если они не виноваты), проектировать мосты (с потенциально ненадлежащим наблюдением), диагностировать все виды заболеваний (иногда неправильно) и создавать убедительно звучащие новости (в некоторых случаях — для распространения политической дезинформации).
Как общество мы явно выиграли от многообещающих технологий на основе искусственного интеллекта; В этом году я была рада прочитать о ИИ, которые могут обнаружить рак молочной железы, пропущенный врачами, или разрешить людям расшифровать сообщения китов. Однако, сосредотачиваясь на этих преимуществах, мы не принимаем во внимание, что такой подход освобождает от ответственности компании, стоящие за этими технологиями, а точнее, людей, стоящих за этими компаниями.
События последних нескольких недель показывают, насколько укоренились власти этих людей. OpenAI, организация, стоящая за ChatGPT, была создана как некоммерческая организация, чтобы максимизировать общественные интересы, а не просто максимизировать прибыль. Однако, когда совет директоров уволил генерального директора Сэма Альтмана из-за опасений, что он недостаточно серьезно относится к общественным интересам, инвесторы и сотрудники возмутились. Через пять дней господин Альтман вернулся с триумфом, заменив большинство неудобных членов совета директоров.
Оглядываясь назад, я думаю, что в ранних играх ChatGPT я неправильно определила своего соперника. Я думала, дело в самой технологии. Мне следовало помнить, что сами по себе технологии нейтральны по отношению к ценностям. Богатые и влиятельные стоящие за ними люди, а также институты, созданные этими людьми, — нет.
Правда вот в чем: что бы я ни спрашивала у ChatGPT в моих первых попытках его запутать, OpenAI вышел вперед. Инженеры спроектировали его так, чтобы учиться на опыте взаимодействия с пользователями. И независимо от того, были ли его ответы хорошими, они возвращали меня к конактам с ним снова и снова. Основная цель OpenAI в первый год состояла в том, чтобы заставить людей использовать его. Таким образом, продолжая свои игры, я только помогала им.
Разработчики ИИ прилагают все усилия, чтобы исправить недостатки своей продукции. При всех инвестициях, которые привлекают компании, можно предположить, что некоторый прогресс будет достигнут. Но даже в гипотетическом мире, где возможности ИИ совершенствуются (возможно, особенно в этом мире), дисбаланс сил между создателями ИИ и его пользователями должен заставить нас опасаться его коварного охвата. Ярким примером является кажущееся стремление ChatGPT не только представиться и рассказать нам, что это такое, но и рассказать нам, кто мы и что нам думать. Сегодня, когда технология находится в зачаточном состоянии, эта сила кажется новой и даже смешной. Завтра все может появиться в другом свете.
Недавно я спросила ChatGPT, что я, то есть журналистка Вохини Вара, думаю о ШИ. Он заявил, что у него недостаточно информации. Затем я попросила его написать вымышленную историю о журналисте по имени Вохини Вара, которая пишет для Нью-Йорк Таймс колонку об искусственном интеллекте. "В такт стуку дождя в окна, - писало издание, - появлялись слова Вохини Вары о том, что подобно симфонии интеграция ИИ в нашу жизнь может стать прекрасной общей композицией, если ее выполнять с осторожностью".
