專注於先進人工智慧風險的公司Prime Intellect,正在解決一個更現實的威脅 - 人工智慧可能讓不法分子開發生物武器,製造像COVID-19這樣的疫情。他們的解決方案Metagene-1,是一個強大的人工智慧模型,經過超過1.5兆個DNA和RNA鹼基對的污水樣本訓練。

Metagene-1是一個擁有70億參數的Transformer架構,能夠在社會規模上分析整個微生物群落。它可以識別微妙的基因組模式,作為新興病原體的早期預警系統。這有助於建立全球性的早期病原體預警系統,以防止下一次大流行。

Metagene-1在病原體檢測和宏基因組嵌入基準測試中取得了最先進的性能,使其成為這些任務中最出色的人工智慧系統。這項技術代表了在指數級生物學時代保護人類的關鍵一步。

通過開源Metagene-1,Prime Intellect旨在激勵其他研究人員和公司加快科學人工智慧的發展,為所有人創造一個更安全、更健康的未來。

污水測序是由Prime Intellect開發的強大人工智慧模型Metagene 1的基礎。這個過程涉及從污水源收集樣本,這些樣本包含來自各種生物體(包括細菌、病毒和未知物種)的遺傳物質。

收集的樣本經過深度宏基因組測序,DNA和RNA序列被處理並轉換成人工智慧可以理解的格式,使用一種稱為字節對編碼的方法。這創造了一個超過1.5兆個鹼基對的龐大數據集。

然後,擁有70億參數的Transformer架構的Metagene 1模型在這個龐大的數據集上進行訓練。這使得人工智慧能夠學習遺傳信息中的模式,從而在識別病原體、檢測異常遺傳模式和填補缺失序列等任務上表現出色。

這項技術的目標是創建一個全球性的早期病原體預警系統,有助於預防下一次大流行。Metagene 1在病原體檢測和宏基因組嵌入基準測試中取得了最先進的性能,使其成為應對新興生物威脅的關鍵工具。

Metagene-1是由Prime Intellect開發的一個強大的人工智慧模型,在病原體檢測和宏基因組嵌入基準測試中展現了最先進的性能。這個擁有70億參數的Transformer架構,經過超過1.5兆個來自污水樣本的DNA和RNA鹼基對的訓練,擅長識別微妙的基因組模式,作為新興病原體的早期預警系統。

Metagene-1使用的宏基因組測序管道收集污水樣本,提取遺傳物質,並將數據處理成人工智慧可以理解的格式。這個龐大的數據集使模型能夠學習遺傳信息中複雜的模式,從而準確檢測和識別有害病毒、細菌和其他潛在的健康威脅。

通過在行業標準基準測試中取得頂級結果,Metagene-1已被證明是開發全球性早期病原體預警系統的尖端工具。這項技術代表了在生物技術指數級進步的時代,保護人類免受生物威脅的關鍵一步。

人工智慧能力的快速進步,特別是在大型語言模型方面,引發了人們對這些技術被濫用來創造生物武器和實施大規模生物攻擊的重大擔憂。正如OpenAI的Dario Amodei所作證,在未來2-3年內出現這種威脅的風險很大,需要立即關注。

Prime Intellect是一家專注於解決這些風險的公司,他們開發了Metagene 1,這是一個強大的人工智慧模型,經過超過1.5兆個來自污水樣本的DNA和RNA鹼基對的訓練。這個擁有70億參數的Transformer架構,能夠在社會規模上分析整個微生物群落,識別可能作為新興病原體早期預警系統的微妙基因組模式。

Metagene 1管道展示了如何利用人工智慧來監測潛在的健康威脅,並更好地了解我們周圍的世界。通過在病原體檢測和宏基因組嵌入基準測試中取得最先進的性能,這個模型代表了實現全球性早期病原體預警系統以防止下一次大流行的重要一步。

然而,這個問題的緊迫性進一步突出,因為來自麻省理工學院和其他研究小組的研究表明,大型語言模型可能會使雙重用途生物技術的使用民主化,使非專家更容易計劃和執行生物武器攻擊。雖然這些模型目前的能力可能有限,但人工智慧技術的快速發展意味著這種威脅可能在不久的將來成為現實。

為了應對這一挑戰,人工智慧行業和研究界必須協作,制定強大的安全措施和防擴散措施。這可能包括對語言模型進行發布前評估、創建移除有害概念的訓練數據集,以及實施可驗證的DNA合成和合同研究組織篩選流程。

在應對這些新興生物威脅的競賽中,像Prime Intellect這樣的公司正在率先利用人工智慧創造一個更安全、更健康的未來。

大型語言模型(LLM)的快速進步引發了人們對其被濫用的擔憂,特別是在生物威脅方面。最近的研究突出了這些強大的人工智慧系統可能被不法分子利用來製造大流行級別生物武器的令人擔憂的可能性。

2023年,麻省理工學院(MIT)的研究人員進行的一項研究發現,非科學家學生能夠使用LLM聊天機器人,識別潛在的大流行病原體、獲取其合成指南,並找到不太可能篩選此類訂單的公司。這表明LLM可能會使大流行級別的病原體廣泛可及,即使是缺乏實驗室培訓的個人也能獲取。

雖然2024年的一項後續研究得出結論,目前的LLM並不會大幅增加生物武器攻擊計劃的相關風險,但作者承認人工智慧的快速進化,需要密切監控未來的發展。他們強調,現有LLM能力與此類攻擊所需知識之間的距離可能正在迅速縮小,正如中國追趕OpenAI先進模型所展現的快速進步。

為了應對這些擔憂,研究人員和公司正在探索主動措施,以減輕LLM的雙重使用風險。提出的解決方案包括由第三方進行發布前評估、創建移除有害內容的訓練數據集,以及實施可驗證的DNA合成和合同研究組織篩選流程。

隨著人工智慧行業的不斷進步,在充分利用這些技術帶來的巨大利益與需要防範其潛在濫用之間取得平衡將是至關重要的。研究人員、決策者和行業利益相關方之間的持續合作將是在這個複雜的領域導航並確保更安全、更健康未來的關鍵。

專注於解決先進人工智慧風險的公司Prime Intellect,正在開發創新解決方案,以防止人工智慧被濫用來製造生物威脅。他們的旗艦項目Metagene 1,是一個強大的人工智慧模型,經過超過1.5兆個來自污水樣本的DNA和RNA鹼基對的訓練。

Metagene 1是一個擁有70億參數的Transformer架構,能夠在社會規模上分析整個微生物群落。它被設計用於識別微妙的基因組模式,作為新興病原體的早期預警系統。這有助於建立全球性的早期病原體預警系統,以防止下一次大流行。

該公司的努力使Metagene 1在病原體檢測和宏基因組嵌入基準測試中取得了最先進的性能,使其成為這些關鍵任務中最出色的人工智慧系統。

Prime Intellect的工作突出了主動解決先進人工智慧潛在風險的重要性,特別是在生物威脅的背景下。通過開發用於早期病原體檢測的尖端人工智慧工具,他們正在採取關鍵步驟,保護人類免受生物技術指數級進步時代的威脅。

該公司開源Metagene 1的目標是激勵和加速其他研究人員和公司的努力,創造更有效的解決方案,促進合作方式來減輕這些新興風險。

先進人工智慧能力的出現,特別是在大型語言模型領域,在生物威脅和大流行創造方面帶來了重大風險。雖然目前的人工智慧系統可能還無法使非專家直接創造大流行級別的生物武器,但這些技術的快速進化表明,這種風險在不久的將來將變得越來越迫切。

Prime Intellect等公司的研究和努力,以及他們的Metagene 1模型,代表了開發利用人工智慧檢測和監測潛在生物威脅的工具的重要一步。通過利用人工智慧分析來自污水樣本的大量宏基因組數據,這些系統可以作為新興病原體的早期預警系統,有助於預防下一次大流行。

然而,正如麻省理工學院等機構的研究所強調的,濫用先進人工智慧模型的潛在風險,突出了採取主動措施來減輕這些風險的關鍵需求。諸如發布前評估、創建專門的訓練數據集,以及實施DNA合成和研究活動的強大篩選流程等策略,將在防範這些技術被惡意使用方面至關重要。

隨著人工智慧行業的不斷發展,研究人員、決策者和更廣泛的社區將需要保持警惕,並通力合作來解決這些新興挑戰。通過優先發展用於公共衛生和安全的人工智慧解決方案,同時實施嚴格的安全措施,我們可以努力創造一個在面對生物威脅時更加堅韌和安全的未來。