Уолл-стрит Джорнел: Апокалиптики долгое время влияли на Anthropic

Согласно сообщению газеты The Wall Street Journal, в совместном офисном пространстве под названием Constellation в Беркли, Калифорния, небольшая группа исследователей в области искусственного интеллекта обсуждает, как избежать катастрофических рисков, связанных с искусственным интеллектом. Люди, близкие к этому пространству, утверждают, что сотрудники Anthropic также имеют офисные помещения там. В сообщении говорится, что исследователь Anthropic Джейкоб Коксон уволился в этом месяце, что привлекло внимание общественности США к утверждению о том, что "неконтролируемое развитие искусственного интеллекта может положить конец человечеству".

Согласно сообщению, участники соответствующей сферы безопасности искусственного интеллекта беспокоятся об этой проблеме уже более десяти лет. Они оттачивали свои аргументы в совместных квартирах в районе залива и обменивались прогнозами на конференциях в Беркли и на Багамах, обсуждая идеи о покупке удаленных островов, запасах йодидов или переезде в бункеры с электромагнитным экранированием в пустыне. В меню одного из мероприятий 2022 года был коктейль под названием "Смерть с достоинством", ссылающийся на статью, в которой утверждается, что человечество обречено на провал.

Газета The Wall Street Journal сообщает, что такие так называемые апокалиптики являются одними из первых сотрудников OpenAI и Anthropic, обе компании были основаны с целью предотвращения опасностей, связанных с искусственным интеллектом. Они продолжают оказывать влияние, часть сотрудников и финансирования проектов поступает из сети, связанной с эффективным альтруизмом, в том числе от бывшего генерального директора обанкротившейся криптобиржи FTX Сэма Бэнкмана-Фрида; сообщается, что он отбывает 25-летний срок заключения.