06.07.2024

Борьба за душу ИИ

Одной из приятных особенностей OpenAI является то, что он был построен на недоверии. Он начинался как некоммерческая исследовательская лаборатория, поскольку его основатели не считали, что искусственный интеллект должен быть пионером коммерческих фирм, которые в подавляющем большинстве движимы мотивом прибыли.

Дэвид Брукс Колумнист

По мере своего развития OpenAI превратилась в то, что можно назвать плодотворным противоречием: коммерческую компанию, контролируемую некоммерческим советом, с корпоративной культурой, находящейся где-то посередине.

Многие сотрудники компании, похоже, одновременно мотивированы желанием ученого совершать открытия, желанием капиталиста поставлять продукцию и желанием благотворителя делать все это безопасно.

События прошлой недели — увольнение Сэма Альтмана, вся эта драма, его повторное назначение — вращаются вокруг одного центрального вопроса: является ли это плодотворное противоречие устойчивым?

Может ли одна организация или один человек поддерживать мозг ученого, напористость капиталиста и осторожное сердце регулирующего органа? Или, как написал Чарли Варзел в The Atlantic, деньги всегда будут побеждать?

Важно помнить, что ИИ сильно отличается от других частей мира технологий. Он более академичен (или, по крайней мере, был) . ИИ — это область, которая имеет исследовательскую родословную, уходящую вглубь веков. Даже сегодня многие гиганты этой области в первую очередь являются исследователями, а не предпринимателями — такие люди, как Янн Лекун и Джеффри Хинтон, которые вместе получили премию Тьюринга (Нобелевскую премию по информатике) в 2018 году и теперь расходятся во мнениях о том, куда нас приведет ИИ.

Только в последние несколько лет академические исследователи начали покидать университетские каюты и устремляться в промышленность. Исследователи в таких местах, как Alphabet, материнская компания Google; Microsoft; OpenAI; и Meta, которой принадлежит Facebook, все еще общаются друг с другом, публикуя исследовательские работы, как это делают профессора.

Но эта область также обладает интенсивностью и дерзостью самого горячего из всех стартап-секторов. Общаясь с исследователями ИИ в течение последнего года или около того, я часто чувствовал себя на одном из тех движущихся дорожек в аэропорту, движущихся со скоростью три мили в час, а они были на дорожках, движущихся со скоростью 4000 миль в час. Исследователи продолжали говорить мне, что эта фаза истории ИИ так волнует именно потому, что никто не может предсказать, что произойдет дальше. «Смысл быть исследователем ИИ в том, чтобы понимать, что происходит. Мы постоянно удивляемся», — сказал мне кандидат Стэнфордского университета Риши Боммасани.

Люди в ИИ, похоже, испытывают радикально разные состояния мозга одновременно. Мне было невероятно трудно писать об ИИ, потому что буквально неизвестно, ведет ли эта технология нас в рай или в ад, и поэтому мое отношение к ней меняется вместе с моим настроением.

Подкастер и ученый Массачусетского технологического института Лекс Фридман, ставший отцом-исповедником мира технологий, выразил стремительный спектр эмоций, с которыми я сталкивался снова и снова: «Вы сидите, одновременно гордый, как родитель, но почти как гордый и напуганный тем, что эта штука будет намного умнее меня. Как гордость и грусть, почти как меланхолическое чувство, но в конечном итоге радость».

Когда я посетил штаб-квартиру OpenAI в мае, я нашел культуру весьма впечатляющей. Многие из людей, с которыми я брал интервью, приехали, когда OpenAI была некоммерческой исследовательской лабораторией, до шумихи вокруг ChatGPT — когда большинство из нас никогда не слышали о компании. «Мои родители на самом деле не знали, чем занимается OpenAI», — сказала мне Джоанн Джанг, менеджер по продукту, — «и они говорили: «Ты уходишь из Google?»» У Марка Чена, исследователя, который участвовал в создании визуального инструмента DALL-E 2, был похожий опыт. «До ChatGPT моя мама звонила мне примерно каждую неделю и говорила: «Эй, знаешь, ты можешь перестать бездельничать и пойти работать в Google или что-то в этом роде»». Эти люди не движимы в первую очередь деньгами.

Даже после того, как GPT попала в заголовки, пребывание в OpenAI было похоже на то, как будто находишься в эпицентре урагана. «Здесь просто намного спокойнее, чем в остальном мире», — сказал мне Джанг. «С самых первых дней это больше походило на исследовательскую лабораторию, потому что в основном мы нанимали только исследователей», — сказала мне Елена Хациатанасиаду, рекрутер. «А потом, по мере того, как мы росли, всем стало очевидно, что прогресс будет исходить как от инженерии, так и от исследований».

Я не встретил там ни одного технического братана или хотя бы людей, которые бы демонстрировали такую ​​браваду «мы меняем мир», которая, вероятно, была бы у меня, если бы я был пионером этой технологии. Диана Юн, чья должность — вице-президент по кадрам, сказала мне: «Слово, которое я бы использовала для этой рабочей силы, — это серьезность… серьезность».

Обычно, когда я посещаю технологическую компанию в качестве журналиста, мне удается встретиться с очень немногими руководителями, а те, у кого я беру интервью, безжалостно придерживаются своего мнения. OpenAI просто выпустила лист регистрации и заставила людей прийти, чтобы поговорить со мной.

Признаюсь, я привык приходить на работу в такие технологические компании с некоторой долей защитного гуманистического снобизма: «Эти люди, может, и разбираются в коде, — говорю я себе, — но они, вероятно, не разбираются в литературных и философских вещах, которые действительно имеют значение».

Я был унижен в OpenAI. Юн рос как танцор и играл Шекспира. Ник Райдер был математиком в Калифорнийском университете в Беркли, и интересовался чем-то, что называлось конечно-дифференциальными свертками, прежде чем он стал исследователем в OpenAI. Несколько человек упомянули коллегу по исследовательской части, который изучал физику в качестве бакалавра, два года учился игре на фортепиано в Джульярдской школе, а затем получил ученую степень в области нейронауки. Другие сказали мне, что их первоначальные академические интересы были связаны с философией сознания или философией языка или символическими системами. Тайна Элунду, член технического персонала компании, изучала экономическую теорию и работала в Федеральном резерве до прихода в OpenAI.

Насколько бы впечатляющими они все ни были, я помню, как сказал себе: это не продлится долго. Я думал, что вокруг слишком много денег. Эти люди могут быть серьезными исследователями, но знают они об этом или нет, они все еще гонятся за тем, чтобы выпускать продукты, получать доход и быть первыми.

Также было ясно, что люди были в смятении из-за безопасности. С одной стороны, безопасность была у всех на уме. Например, я спросил Марка Чена о его эмоциях в день выхода DALL-E 2. «Во многом это было просто чувство опасения. Например, получили ли мы безопасность». С другой стороны, все, с кем я говорил, были преданы основной миссии OpenAI — созданию технологии, способной на общий искусственный интеллект, способный сравниться или превзойти человеческий интеллект в широком спектре задач.

ИИ — это область, в которой есть блестящие люди, рисующие совершенно разные, но убедительные портреты того, куда это движется. Венчурный инвестор Марк Андрессен подчеркивает, что это значительно изменит мир к лучшему. Когнитивист Гэри Маркус рисует не менее убедительный сценарий того, как все это может пойти не так.

Никто не знает, кто прав, но исследователи просто продолжают идти вперед. Их поведение напоминает мне слова Алана Тьюринга, написанные в 1950 году: «Мы можем видеть только на короткое расстояние вперед, но мы можем видеть там много того, что нужно сделать».

Я надеялся, что OpenAI сможет справиться с напряженностью, хотя даже тогда были опасения. Как сказал мне Брэд Лайткап, главный операционный директор OpenAI: «Главное — это просто поддерживать культуру и ориентацию на миссию по мере нашего роста. То, что на самом деле не дает мне спать, если вы спрашиваете честно, — это как вы сохраняете эту сосредоточенность в масштабе».

Эти слова оказались пророческими. Организационную культуру нелегко построить, но легко разрушить. Буквальная безопасность мира завернута в вопрос: сохранит ли недавно освобожденный Альтман плодотворное противоречие или поддастся давлению

Источник: nytimes.com