Илон Маск заявил, что, несмотря на значительный риск, искусственный интеллект стоит изучать дальше, даже если существует 20%-ная вероятность того, что он приведет к уничтожению человечества.
Выступая на семинаре под названием «Великие дебаты об искусственном интеллекте» во время Саммита изобилия, Маск пересмотрел свою предыдущую оценку риска, связанного с искусственным интеллектом, совместив ее с оценкой известного исследователя искусственного интеллекта Джеффа Хинтона.
Маск подчеркнул, что, несмотря на признание потенциальных катастрофических последствий, он считает, что потенциальные преимущества искусственного интеллекта перевешивают негативные последствия. Однако он не стал вдаваться в подробности того, как рассчитывал относительный риск.
Такие эксперты, как Роман Ямпольский из Университета Луисвилля, согласны с тем, что ИИ представляет экзистенциальную угрозу человечеству, при этом Ямпольский утверждает, что оценка Маска может быть даже консервативной. Говоря о возможности сценария конца света, Ямпольский утверждает, что фактический риск может быть значительно выше, чем оценка Маска.
Дебаты вокруг риска ИИ набрали силу в технологических кругах: по оценкам, вероятность апокалипсиса, вызванного ИИ, варьируется от 5% до 50%. Ямпольский даже оценивает риск в тревожные 99,999999%. Он выступает за крайнюю осторожность, предполагая, что единственный способ снизить риск — это вообще избегать разработки передового искусственного интеллекта.
Позиция Маска в отношении безопасности ИИ кажется парадоксальной, поскольку ранее он выступал за регулирование этого сектора, одновременно инвестируя в технологии ИИ через такие предприятия, как xAI. Несмотря на свои опасения, Маск по-прежнему с оптимизмом смотрит на потенциал ИИ, предсказывая, что цифровой интеллект может превзойти человеческий интеллект к 2030 году.
В основе подхода Маска к безопасности ИИ лежит идея развития ИИ таким образом, чтобы способствовать честности. Он предостерегает от принуждения ИИ ко лжи, ссылаясь на необратимые последствия. Акцент Маска на искусственном интеллекте, ищущем истину, отражает его веру в развитие симбиотических отношений между людьми и технологиями.
Однако эксперты предупреждают, что возможность манипулировать ИИ может создать серьезные проблемы для контроля. Хинтон, видный деятель в области исследований искусственного интеллекта, подчеркивает опасность того, что менее разумная сущность пытается контролировать более умную.
