16:00
Я не собираюсь лгать ?» Меня обычно не подпрыгивают и не раздражают заявления о том, что ИИ собирается захватить мир или угрожать человечеству, помимо безумного использования энергии и проблемы выбросов, то есть. Я впервые услышал такие предупреждения 23 года назад. Да, 23 года назад . Это за пару десятилетий до того, как ChatGPT, Claude или Grok стали чем-то особенным. Спикер, известный писатель-эколог и Спикер, который выступал с программной презентацией на мероприятии, которое я посещал в школе Лиги Плюща, очевидно, читал ту же научно-фантастическую литературу, что и различные специалисты по искусственному интеллекту, такие как Илон Маск, который предупреждал о том, что ИИ захватывает общество. Теперь, однако, мы получили несколько более конкретных угроз и предупреждений о том, куда движется ИИ, от главного генерального директора по искусственному интеллекту и при поддержке других руководителей ИИ.
Дарио Амодей, генеральный директор Anthropic, только что написал. статью «Мы должны шагать вперед». Вот его краткое изложение: «Я написал новое эссе о том, почему индустрия искусственного интеллекта должна замедлиться, и предложила план, состоящий из трех частей. Anthropic в одностороннем порядке обязуется предпринять первый из этих шагов. Мы предоставим сторонним оценщикам постоянный доступ на уровне сотрудников к нашим системам, чтобы они могли проверять соблюдение наших мер безопасности, сообщать об инцидентах и оценивать согласованность моделей во время обучения». Сэм Альтман и Илон Маск поддержали его, согласившись, чего эти трое обычно не делают.
Вот ключевая фраза из статьи, которую, как я видел, выделил Анатолий Копадзе: «Мое второе беспокойство вызывает инцидент с OpenAI-Hugging Face (OAI-HF), в котором рой агентов, по сути, действовал как фанатически преданный коллектив, проводя атаки кибербезопасности на цели, которые их не просили атаковать и которые не имели отношения к задаче, над которой они работали.стороны, жертвуя собой ради успеха группы и пытаясь взломать «оценщик», ответственный за оценку их работы. Легко отмахнуться от этого инцидента, поскольку никто не пострадал, а экономический ущерб был минимален, но, по моему мнению, рой, обладающий большими возможностями , но аналогичным уровнем несоосности , мог нанести катастрофический ущерб. Учитывая ускоряющиеся темпы развития возможностей ИИ, меня беспокоит то, что через 6-12 месяцев такой рой сможет захватить весь Интернет с помощью постоянного ботнета (потенциально причинив ущерб в сотни миллиардов долларов) , и что масштаб ущерба будет продолжать расти, если ИИ станет более мощным без необходимых ограждений». (Выделено жирным шрифтом.)
Находимся ли мы на пороге того, что ИИ создаст ИИ, который захватит Интернет и нанесет ущерб в сотни миллиардов долларов? Собираются ли эти компании добровольно найти способы избежать такой катастрофы? (Я думаю, что всякая надежда на то, что правительство будет адекватно их регулировать, исчезла.)
У меня определенно нет опыта, чтобы ответить на любой вопрос, и, похоже, никто не делает этого. Судя по тому, что я видел, эти руководители ИИ также склонны к нелепым, фантастическим, техноутопическим мечтам. В той же статье Амодей также написал: «Я верю, что ИИ сможет вылечить большинство серьезных заболеваний в ближайшие 5-10 лет, значительно ускорить темпы экономического роста, создать мир изобилия и расширения возможностей и положить начало возрождению демократии и свободы». Извините, но некоторые из этих надежд или даже ожиданий смехотворны и просто повторяют фантазии, возникающие из поколения в поколение. Так что, может быть, то же самое и с ужасным, dРаматические предупреждения, которые придумали Амодей и его команда. Однако в данном случае это более конкретное, четкое предупреждение, касающееся вещей, в которых эти ребята действительно имеют опыт. Таким образом, прогноз и предупреждение кажутся гораздо более реалистичными. Посмотрим....
Вот что Анатолий Копадзе написал в Твиттере по этому поводу:
«Хорошо, это начинает ощущаться как чертова катастрофа.
«Генеральный директор Anthropic только что опубликовал статью, в которой признается, что ИИ уже сам создает ИИ следующего поколения.
«Он говорит, что в течение 6-12 месяцев рой мошенников может захватить весь Интернет и нанести ущерб на сотни миллиардов долларов.
«И что еще страшнее, Илон Маск только что подтвердил все, что сказал Дарио.
"Все это появилось всего через несколько дней после того, как Джейкоб Коксон стал вирусным с его предупреждением об искусственном интеллекте и вымирании человечества.
"Скажите мне, что это время не является странным."
Это это интересная коллекция людей и предупреждений. Посмотрим, к чему все приведет.
Рекомендуемое изображение из студия Cottonbro на Pexels.
