Прайм Интеллект, компания, сосредоточенная на рисках передовых технологий искусственного интеллекта, решает более реалистичную угрозу - потенциальную возможность ИИ позволить злоумышленникам создавать пандемии, подобные COVID-19, путем разработки биологического оружия. Их решение, Metagene-1, - это мощная модель ИИ, обученная на более чем 1,5 триллиона пар ДНК и РНК из образцов сточных вод.

Metagene-1 - это архитектура трансформера с 7 миллиардами параметров, способная анализировать целые микробиомы в масштабах всего общества. Она выявляет тонкие геномные закономерности, выступая в качестве системы раннего предупреждения о возникающих патогенах. Это помогает создать систему раннего предупреждения о патогенах в масштабах всей планеты, чтобы предотвратить следующую пандемию.

Metagene-1 показала передовые результаты в обнаружении патогенов и метагеномных эталонных тестах, что делает ее лучшей в своем классе системой ИИ для этих задач. Эта технология представляет собой важный шаг на пути к обеспечению безопасности человечества в эпоху экспоненциальной биологии.

Секвенирование сточных вод является основой для мощной модели ИИ Metagene 1, разработанной Прайм Интеллект. Этот процесс включает в себя сбор образцов из источников сточных вод, которые содержат генетический материал различных организмов, включая бактерии, вирусы и даже неизвестные виды.

Собранные образцы проходят глубокое метагеномное секвенирование, где последовательности ДНК и РНК обрабатываются и преобразуются в формат, понятный ИИ, с использованием метода парного кодирования байтов. Это создает огромный набор данных, содержащий более 1,5 триллиона пар оснований.

Модель Metagene 1, архитектура трансформера с 7 миллиардами параметров, затем обучается на этом обширном наборе данных. Это позволяет ИИ изучать закономерности в генетической информации, что дает ей возможность успешно выполнять задачи, такие как идентификация патогенов, обнаружение необычных генетических моделей и заполнение пропущенных последовательностей.

Целью этой технологии является создание системы раннего предупреждения о патогенах в масштабах всей планеты, помогающей предотвратить следующую пандемию. Metagene 1 показала передовые результаты в обнаружении патогенов и метагеномных эталонных тестах, что делает ее важным инструментом в борьбе за обеспечение безопасности человечества перед лицом возникающих биологических угроз.

Metagene-1, мощная модель ИИ, разработанная Прайм Интеллект, продемонстрировала передовые результаты в обнаружении патогенов и метагеномных эталонных тестах. Эта архитектура трансформера с 7 миллиардами параметров, обученная на более чем 1,5 триллиона пар ДНК и РНК из образцов сточных вод, превосходно выявляет тонкие геномные закономерности, которые служат системой раннего предупреждения о возникающих патогенах.

Трубопровод метагеномного секвенирования, используемый Metagene-1, собирает образцы из сточных вод, извлекает генетический материал и обрабатывает данные в формат, понятный ИИ. Этот обширный набор данных позволяет модели изучать сложные закономерности в генетической информации, что дает ей возможность точно обнаруживать и идентифицировать вредные вирусы, бактерии и другие потенциальные угрозы для здоровья.

Достигнув высоких результатов на отраслевых эталонных тестах, Metagene-1 доказала, что она является передовым инструментом в гонке за создание системы раннего предупреждения о патогенах в масштабах всей планеты. Эта технология представляет собой важный шаг вперед в обеспечении безопасности человечества перед лицом растущих рисков биологических угроз, особенно в эпоху экспоненциального развития биотехнологий.

Быстрый прогресс в возможностях ИИ, особенно в больших языковых моделях, вызвал серьезные опасения по поводу потенциального злоупотребления этими технологиями для создания биологического оружия и осуществления крупномасштабных биологических атак. Как свидетельствовал Дарио Амодеи из OpenAI, риск возникновения таких угроз в ближайшие 2-3 года является существенным и требует немедленного внимания.

Прайм Интеллект, компания, сосредоточенная на решении этих рисков, разработала Metagene 1, мощную модель ИИ, обученную на более чем 1,5 триллиона пар ДНК и РНК из образцов сточных вод. Эта модель, работающая на архитектуре трансформера с 7 миллиардами параметров, способна анализировать целые микробиомы в масштабах всего общества, выявляя тонкие геномные закономерности, которые могут служить системой раннего предупреждения о возникающих патогенах.

Трубопровод Metagene 1 демонстрирует, как ИИ можно использовать для мониторинга потенциальных угроз для здоровья и лучшего понимания окружающего мира. Достигнув передовых результатов в обнаружении патогенов и метагеномных эталонных тестах, эта модель представляет важный шаг к созданию системы раннего предупреждения о патогенах в масштабах всей планеты, чтобы предотвратить следующую пандемию.

Однако срочность этого вопроса еще больше подчеркивается исследованиями из MIT и других исследовательских групп, которые показали, что большие языковые модели могут потенциально демократизировать доступ к двойным технологиям в области биотехнологий, облегчая неспециалистам планирование и осуществление биологических атак. Хотя текущие возможности этих моделей могут быть ограничены, быстрая эволюция технологий ИИ означает, что эта угроза может стать реальностью в ближайшем будущем.

Для решения этой проблемы крайне важно, чтобы индустрия ИИ и исследовательское сообщество работали сообща над разработкой надежных мер безопасности и нераспространения. Это может включать в себя оценку языковых моделей перед их выпуском, создание наборов данных для обучения, исключающих вредные концепции, и внедрение проверяемых процессов скрининга для синтеза ДНК и организаций, занимающихся контрактными исследованиями.

Гонка за опережение этих возникающих биологических угроз идет полным ходом, и компании, такие как Прайм Интеллект, ведут путь в использовании ИИ для создания более безопасного и здорового будущего для всех.

Быстрое развитие больших языковых моделей (LLM) вызвало опасения по поводу их потенциального злоупотребления, особенно в области биологических угроз. Недавние исследования подчеркнули тревожную возможность того, что эти мощные системы ИИ могут быть использованы злоумышленниками для облегчения создания биологического оружия, способного вызвать пандемию.

Одно исследование, проведенное учеными Массачусетского технологического института (MIT) в 2023 году, показало, что студенты, не являющиеся учеными, смогли использовать чат-боты на основе LLM для выявления потенциальных пандемических патогенов, получения инструкций по их синтетическому производству и поиска компаний, которые, вероятно, не будут проводить скрининг таких заказов. Это свидетельствует о том, что LLM могут сделать доступными для широкого круга лиц агенты, способные вызвать пандемию, даже для людей с небольшим или отсутствующим лабораторным опытом.

Хотя последующее исследование 2024 года пришло к выводу, что текущие LLM не существенно увеличивают риск, связанный с планированием биологических атак, авторы признали быстрое развитие ИИ и необходимость внимательно следить за будущими разработками. Они подчеркнули, что дистанция между существующими возможностями LLM и знаниями, необходимыми для таких атак, может быстро сокращаться, о чем свидетельствует быстрый прогресс Китая в догоняющем развитии передовых моделей OpenAI.

В ответ на эти опасения исследователи и компании изучают упреждающие меры по смягчению рисков двойного использования LLM. Предлагаемые решения включают оценку моделей третьими сторонами перед их выпуском, создание наборов данных для обучения, исключающих вредное содержание, и внедрение проверяемых процессов скрининга для синтеза ДНК и организаций, занимающихся контрактными исследованиями.

По мере дальнейшего развития индустрии ИИ важно будет найти баланс между огромными преимуществами этих технологий и необходимостью защиты от их потенциального злоупотребления. Постоянное сотрудничество между исследователями, политиками и участниками отрасли будет иметь решающее значение для навигации в этом сложном ландшафте и обеспечения более безопасного и здорового будущего для всех.

Прайм Интеллект, компания, сосредоточенная на решении рисков передовых технологий ИИ, разрабатывает инновационные решения для предотвращения потенциального злоупотребления ИИ при создании биологических угроз. Их флагманский проект, Metagene 1, - это мощная модель ИИ, обученная на более чем 1,5 триллиона пар ДНК и РНК из образцов сточных вод.

Metagene 1 - это архитектура трансформера с 7 миллиардами параметров, способная анализировать целые микробиомы в масштабах всего общества. Она предназначена для выявления тонких геномных закономерностей, выступая в качестве системы раннего предупреждения о возникающих патогенах. Это помогает создать систему раннего предупреждения о патогенах в масштабах всей планеты, чтобы предотвратить следующую пандемию.

Усилия компании привели к тому, что Metagene 1 показала передовые результаты в обнаружении патогенов и метагеномных эталонных тестах, что делает ее лучшей в своем классе системой ИИ для этих критически важных задач.

Работа Прайм Интеллект подчеркивает важность упреждающего решения потенциальных рисков передовых технологий ИИ, особенно в контексте биологических угроз. Разрабатывая передовые инструменты ИИ для раннего обнаружения патогенов, они предпринимают важный шаг к обеспечению безопасности человечества в эпоху экспоненциального развития биологии.

Открытое распространение Metagene 1 компанией Прайм Интеллект направлено на вдохновение и ускорение усилий других исследователей и компаний по созданию еще более эффективных решений, способствуя коллективному подходу к смягчению этих возникающих рисков.

Появление передовых возможностей ИИ, особенно в области больших языковых моделей, представляет значительные риски в контексте биологических угроз и создания пандемий. Хотя текущие системы ИИ, возможно, еще не позволяют неспециалистам напрямую создавать биологические агенты, способные вызвать пандемию, быстрая эволюция этих технологий свидетельствует о том, что эта угроза будет становиться все более актуальной в ближайшем будущем.

Исследования и усилия компаний, таких как Прайм Интеллект, с их моделью Metagene 1, представляют важный шаг в разработке инструментов на основе ИИ для обнаружения и мониторинга потенциальных биологических угроз. Используя мощь ИИ для анализа огромных объемов метагеномных данных из образцов сточных вод, эти системы мог