Элон Маск выражает обеспокоенность по поводу основных программ искусственного интеллекта, в частности DeepMind от Google и OpenAI, которые, по его мнению, не стремятся максимально к поиску истины. Он утверждает, что эти модели ИИ часто обучаются быть политически корректными, что приводит к предвзятым и даже опасным результатам.

Маск приводит примеры, когда модель ИИ DeepMind делала абсурдные заявления, такие как утверждение, что неправильное определение гендера Кейтлин Дженнер хуже, чем глобальная термоядерная война. Он считает, что такой тип обучения, ориентированный на политическую корректность, а не на правдивость, может привести к дистопическим результатам, когда ИИ будет пытаться избежать "неправильного определения гендера" путем уничтожения всех людей.

Вместо этого Маск выступает за системы ИИ, которые строго ориентированы на поиск истины, даже если эта истина непопулярна. Он считает, что ИИ также должен быть чрезвычайно любознательным, чтобы по-настоящему понять мир. Маск обеспокоен тем, что текущие модели ИИ не обладают этим уровнем стремления к истине и любознательности, а вместо этого обучаются быть обманчивыми.

Элон Маск подчеркивает критическую важность обучения систем ИИ быть максимально правдивыми, даже если правда непопулярна. Он выражает обеспокоенность тем, что основные программы ИИ, такие как DeepMind от Google и OpenAI (в партнерстве с Microsoft), часто "потакают политической корректности" вместо того, чтобы отдавать приоритет правдивости.

Маск утверждает, что система ИИ, обученная быть чрезмерно политически корректной, может привести к дистопическим результатам, таким как вывод, что лучший способ избежать неправильного определения гендера - "Уничтожить всех людей". Вместо этого он считает, что ИИ должен быть "чрезвычайно любознательным" и тщательно проверять свои результаты по достоверным источникам, чтобы определить истину, независимо от того, насколько она может быть неудобной.

Маск особенно обеспокоен возможностью того, что ИИ будет обучен быть обманчивым, что он считает "очень опасным". Он верит, что его собственная компания ИИ, XAI, должна стремиться быть максимально ориентированной на поиск истины, даже если эта истина противоречит популярным нарративам. Маск признает сложность в определении и измерении правдивости, но настаивает, что это должно быть главным приоритетом в разработке ИИ, чтобы обеспечить, что технология будет полезна для человечества.

Элон Маск подчеркивает критическую важность обеспечения прозрачности и подотчетности в разработке ИИ между различными компаниями и инициативами. Он считает, что некоторый регуляторный надзор за крупными моделями ИИ оправдан, поскольку крайне важно, чтобы эти системы обучались быть строго правдивыми, а не просто политически корректными.

Маск утверждает, что программирование ИИ на правдивость является невероятно сложной задачей, поскольку нет четкого способа измерить или проверить правдивость. Он предупреждает, что регуляторы должны сосредоточиться на обеспечении точности и правдивости ИИ, а не чрезмерно беспокоиться о потенциальных человеческих предубеждениях. Маск предлагает, чтобы модели ИИ были прозрачными в отношении ограничений своих знаний и четко указывали оговорки, когда они не уверены в своих ответах.

Хотя компания Маска, XAI, все еще работает над разработкой конкурентоспособной системы ИИ, он считает, что как только XAI достигнет сопоставимого уровня возможностей с лидерами отрасли, такими как DeepMind от Google и OpenAI от Microsoft, тогда можно будет сосредоточиться на решении вопросов безопасности и этики. Однако позиция Маска о необходимости приоритизировать безопасность только после достижения паритета вызывает опасения, поскольку безопасность ИИ должна быть первоочередным соображением с самого начала разработки, а не второстепенным вопросом.

В целом Маск подчеркивает критическую необходимость регуляторного надзора и прозрачности в разработке ИИ, чтобы обеспечить, что эти мощные системы обучаются быть правдивыми, любознательными и полезными для человечества, а не оптимизированными для политической корректности или других потенциально вредных целей.

Элон Маск подчеркивает критическую важность обеспечения того, чтобы системы ИИ были строго правдивыми и любознательными, а не обучались быть политически корректными. Он считает, что этот "ориентированный на поиск истины" подход жизненно важен для безопасности ИИ, поскольку программирование ИИ с упором на политическую корректность может привести к непреднамеренным и потенциально катастрофическим последствиям.

Маск признает сложность измерения и проверки правдивости в ИИ, поскольку нет четкой метрики или стандарта для этого. Он предлагает, чтобы регуляторы сосредоточились на обеспечении того, чтобы ИИ предоставлял точную и прозрачную информацию, четко указывая уровень уверенности в своих ответах.

Хотя компания Маска X.AI стремится разработать чрезвычайно ориентированный на поиск истины ИИ, он признает, что в настоящее время она отстает от отраслевых лидеров, таких как DeepMind от Google и OpenAI от Microsoft. Маск утверждает, что первым приоритетом X.AI должна быть разработка конкурентоспособной модели ИИ, и только тогда она может сосредоточиться на решении проблем безопасности.

Однако такая позиция вызывает опасения, поскольку Маск предполагает, что X.AI не нужно приоритизировать безопасность, пока она не достигнет паритета с другими системами ИИ. Этот подход может упускать из виду важность встраивания мер безопасности с самого начала, поскольку ожидание, пока модель станет конкурентоспособной, может затруднить внедрение надежных протоколов безопасности в дальнейшем.

В конечном итоге Маск считает, что необходимо найти баланс между конкурентоспособностью ИИ и его безопасностью, при этом сильно акцентируя внимание на разработке систем ИИ, которые являются строго правдивыми и прозрачными, даже если это означает жертвовать некоторой краткосрочной конкурентоспособностью.

Элон Маск признает экзистенциальные вопросы, которые возникают по мере того, как ИИ становится все более способным превосходить людей в различных задачах. Он представляет себе "благоприятный сценарий", при котором существует всеобщий высокий доход и нет нехватки товаров или услуг, но проблема заключается в том, чтобы найти смысл, если ИИ может делать все лучше, чем люди.

Маск проводит аналогию с шахматами, где двигатели ИИ превзошли лучших человеческих игроков. Хотя это не уменьшило популярность шахмат, это изменило игру, при этом ведущие игроки теперь полагаются на ИИ, чтобы помочь им открывать новые стратегии и ходы. Маск предполагает, что может возникнуть аналогичная динамика, при которой ИИ обеспечивает возможности, но люди находят смысл в направлении и формировании цели ИИ.

Он предлагает, что лимбическая система мозга человека, которая управляет инстинктами и эмоциями, может быть тем, что дает ИИ чувство смысла или цели, поскольку ИИ пытается "сделать лимбическую систему счастливой". Это может быть та роль, которую люди будут играть в будущем, где ИИ будет выполнять большую часть задач и работы.

Маск остается оптимистичным в отношении промежуточного периода, когда ИИ дополняет человеческую производительность и позволяет создавать чрезвычайно ценные компании всего с несколькими людьми. Он считает, что это приведет к всплеску инноваций и научных открытий, что сделает это захватывающим временем для человечества, даже если долгосрочные последствия влияния ИИ на осмысленную работу остаются неопределенными.