Письмо подчеркивает несколько серьезных рисков, связанных с передовыми технологиями искусственного интеллекта:

• Дальнейшее закрепление существующих неравенств
• Манипулирование и дезинформация
• Потеря контроля над автономными системами ИИ, что потенциально может привести к исчезновению человечества
• Злоумышленники, получающие неограниченный доступ к мощным моделям ИИ и наносящие значительный ущерб

В письме говорится, что эти риски признаны компаниями, занимающимися ИИ, правительствами и другими экспертами в области ИИ. Однако у компаний, занимающихся ИИ, есть сильные финансовые стимулы, чтобы избежать эффективного надзора, и существующие структуры корпоративного управления недостаточны для решения этих проблем.

Письмо подчеркивает серьезные риски, связанные с передовыми технологиями искусственного интеллекта, от дальнейшего закрепления существующих неравенств до потенциальной потери контроля над автономными системами ИИ, что может привести к исчезновению человечества. Авторы признают, что, хотя компании, занимающиеся ИИ, и правительства осознают эти риски, у компаний, занимающихся ИИ, есть сильные финансовые стимулы, чтобы избежать эффективного надзора.

Авторы утверждают, что существующие структуры корпоративного управления недостаточны для решения этих проблем, поскольку компании, занимающиеся ИИ, обладают значительной непубличной информацией о возможностях и ограничениях своих систем, а также об адекватности своих защитных мер и уровнях риска. Однако у них есть лишь слабые обязательства по обмену этой информацией с правительствами и никаких обязательств перед гражданским обществом.

Письмо подчеркивает тревожные проблемы, связанные со структурами корпоративного управления ведущих компаний, занимающихся ИИ. В нем говорится, что, хотя эти компании обладают значительной непубличной информацией о возможностях, ограничениях и рисках своих систем ИИ, в настоящее время у них есть лишь слабые обязательства по обмену этой информацией с правительствами и общественностью.

В письме утверждается, что у компаний, занимающихся ИИ, есть сильные финансовые стимулы, чтобы избежать эффективного надзора, и существующие структуры корпоративного управления недостаточны для решения этой проблемы. В качестве примера приводится OpenAI, где уникальная структура совета директоров и его независимость позволили ему принимать решения без консультаций с заинтересованными сторонами, что привело к внезапному увольнению генерального директора Сэма Альтмана. Этот инцидент подчеркивает последствия структуры управления, которая не сбалансирована для учета различных организационных целей и интересов заинтересованных сторон.

Письмо подчеркивает критическую необходимость большей прозрачности и защиты сотрудников в разработке передовых систем искусственного интеллекта. Ключевые моменты:

• Компании, занимающиеся ИИ, обладают значительной непубличной информацией о возможностях, ограничениях и рисках своих систем, но имеют слабые обязательства по обмену этой информацией с правительствами и общественностью.

• Существующие структуры корпоративного управления недостаточны для адекватного решения этих рисков, поскольку у компаний, занимающихся ИИ, есть сильные финансовые стимулы, чтобы избежать эффективного надзора.

• Широкие соглашения о конфиденциальности блокируют текущих и бывших сотрудников от высказывания своих опасений, поскольку они рискуют потерять значительную долю акций, если будут выступать.

Письмо от нынешних и бывших сотрудников компаний, работающих на передовом уровне ИИ, призывает компании, занимающиеся передовыми технологиями ИИ, взять на себя обязательство по нескольким ключевым принципам:

1. Отсутствие соглашений о неразглашении: Компании не будут заключать или применять какие-либо соглашения, запрещающие порицание или критику компании в связи с проблемами, связанными с рисками.

2. Отсутствие возмездия: Компании не будут применять возмездие к сотрудникам за высказывание критики, связанной с рисками, путем ограничения каких-либо накопленных экономических выгод.

3. Анонимный процесс подачи жалоб: Компании будут обеспечивать проверяемый анонимный процесс, позволяющий нынешним и бывшим сотрудникам поднимать проблемы, связанные с рисками, перед советом директоров компании, регулирующими органами и соответствующими независимыми организациями.