В Давосе, Швейцария, Сэм Олтман, генеральный директор OpenAI, несомненно, является одной из самых востребованных фигур.
Олтмана называют «отцом ChatGPT». В ноябре 2022 года OpenAI выпустила большую языковую модель ChatGPT, вызвав волну генеративного искусственного интеллекта. Каковы последние идеи Олтмана об ИИ, которыми он поделился на недавнем Ежегодном собрании Всемирного экономического форума (ВЭФ) 2024 года?
Уменьшит ли ИИ наше внимание друг к другу?
В 1997 году, когда ИИ-система IBM «Deep Blue» победила чемпиона мира по шахматам Гарри Каспарова, некоторые комментаторы предсказывали, что «это будет конец шахмат», предполагая, что никто больше не захочет смотреть или играть в шахматы.
«Но по сей день мы по-прежнему глубоко интересуемся тем, что делают люди. Почти никто не смотрит, как два ИИ играют друг против друга», — сказал Олтман. Закончив книгу, которая ему нравится, его первым побуждением является узнать о жизни автора. «Я хочу почувствовать связь с человеком, который нашел во мне отклик».
Олтман заявил, что, хотя люди постоянно получают лучшие инструменты, одна вещь остается неизменной: «Сегодня мы по-прежнему сосредотачиваемся друг на друге».
Стоит ли нам беспокоиться о том, что ИИ заменит человеческие рабочие места?
Олтман считает, что ИИ окажет значительное влияние на работу людей. Сегодня ИИ стал «невероятным инструментом повышения производительности», но он еще не заменил рабочие места в том масштабе, которого опасаются экономисты.
Какой работой люди все еще могут заниматься? Используя себя в качестве примера, Олтман сказал: «Я не исследователь ИИ; моя роль — выяснить, что нам следует делать, а затем сотрудничать с другими для достижения этих целей». Он считает, что в будущем люди будут действовать на более высоком уровне абстракции и получать еще больше возможностей.
Является ли регулирование ИИ хорошей вещью?
Олтман выразил одобрение регуляторным мерам в отношении технологии ИИ. Он считает, что всем сторонам, участвующим в разработке технологии ИИ, полезно «придерживаться высоких стандартов». Технологическая индустрия несет ответственность за включение мнения общества в решения, касающиеся ценностей и порогов безопасности, чтобы гарантировать, что преимущества перевешивают риски.
Олтман подчеркнул: «Мы должны позволить обществу и технологиям развиваться вместе. При создании этих [ИИ] систем они должны разрабатываться постепенно посредством очень тесных циклов обратной связи и корректировок курса, обеспечивая огромную ценность при соблюдении требований безопасности».
Задача сложнее, чем технология
Олтман указал, что «итеративное развертывание» ИИ позволяет обществу постепенно адаптироваться к технологии и дает «нашим институтам время для обсуждения и выяснения того, как его регулировать».
Он отметил, что GPT-3 и GPT-4 добились «значительного прогресса» в согласовании ценностей. Однако он считает, что вопросы, более сложные, чем технология, это: Кто решает, каковы эти ценности? Каковы значения по умолчанию? Каковы границы? Как это функционирует в разных странах? Что можно и чего нельзя с ним делать? «Это серьезный общественный вопрос», — сказал он.
Является ли ИИС (Искусственный общий интеллект) «серьезной опасностью»?
Искусственный общий интеллект (ИОИ/AGI) — важное направление исследований в области ИИ. В феврале прошлого года Олтман предупреждал о «серьезных опасностях» ИОИ. На Всемирном экономическом форуме его позиция, по-видимому, несколько смягчилась.
Во время диалога с генеральным директором Microsoft Сатьей Наделлой Олтман предположил, что ИОИ будет «удивительно непрерывной вещью», заявив: «Каждый год мы будем выпускать новую модель, и она будет намного лучше, чем в предыдущем году».
В другой беседе Олтман выразил мнение, что ИОИ может быть разработан в «довольно близком будущем», но он «изменит мир гораздо меньше, чем мы думаем, и изменит рабочие места гораздо меньше, чем мы думаем».
