Prime Intellect, một công ty tập trung vào các rủi ro của trí tuệ nhân tạo tiên tiến, đang giải quyết một mối đe dọa thực tế hơn - khả năng của trí tuệ nhân tạo để cho phép các tác nhân xấu tạo ra các đại dịch như COVID-19 bằng cách phát triển vũ khí sinh học. Giải pháp của họ, Metagene-1, là một mô hình trí tuệ nhân tạo mạnh mẽ được đào tạo trên hơn 1,5 nghìn tỷ cặp bazơ DNA và RNA từ các mẫu nước thải.

Metagene-1 là một kiến trúc Transformer với 7 tỷ tham số, có khả năng phân tích toàn bộ vi sinh vật học ở quy mô xã hội. Nó xác định các mẫu genomic tinh tế, phục vụ như một hệ thống cảnh báo sớm cho các tác nhân gây bệnh mới nổi. Điều này giúp tạo ra một hệ thống cảnh báo sớm về tác nhân gây bệnh trên toàn cầu để ngăn ngừa đại dịch tiếp theo.

Metagene-1 đã đạt được hiệu suất tối ưu nhất hiện nay trong việc phát hiện tác nhân gây bệnh và nhúng metagenomics, khiến nó trở thành hệ thống trí tuệ nhân tạo hàng đầu cho các nhiệm vụ này. Công nghệ này đại diện cho một bước quan trọng trong việc bảo vệ nhân loại trong kỷ nguyên của sinh học theo cấp số nhân.

Giải trình tự nước thải là nền tảng cho mô hình trí tuệ nhân tạo mạnh mẽ, Metagene 1, được phát triển bởi Prime Intellect. Quá trình này bao gồm việc thu thập các mẫu từ các nguồn nước thải, chứa chất liệu di truyền từ các sinh vật khác nhau, bao gồm cả vi khuẩn, vi rút và thậm chí là các loài chưa được biết đến.

Các mẫu thu thập được trải qua quá trình giải trình tự metagenomics sâu, nơi các trình tự DNA và RNA được xử lý và chuyển đổi thành định dạng mà trí tuệ nhân tạo có thể hiểu được bằng cách sử dụng một phương pháp gọi là mã hóa cặp byte. Điều này tạo ra một tập dữ liệu khổng lồ với hơn 1,5 nghìn tỷ cặp bazơ thông tin.

Mô hình Metagene 1, một kiến trúc Transformer với 7 tỷ tham số, sau đó được đào tạo trên tập dữ liệu rộng lớn này. Điều này cho phép trí tuệ nhân tạo học các mẫu trong thông tin di truyền, cho phép nó xuất sắc trong các nhiệm vụ như xác định tác nhân gây bệnh, phát hiện các mẫu di truyền bất thường và lấp đầy các trình tự bị thiếu.

Mục tiêu của công nghệ này là tạo ra một hệ thống cảnh báo sớm về tác nhân gây bệnh trên toàn cầu, giúp ngăn ngừa đại dịch tiếp theo. Metagene 1 đã đạt được hiệu suất tối ưu nhất trong các tiêu chuẩn phát hiện tác nhân gây bệnh và nhúng metagenomics, khiến nó trở thành một công cụ quan trọng trong cuộc đua để bảo vệ nhân loại khỏi các mối đe dọa sinh học mới nổi.

Metagene-1, một mô hình trí tuệ nhân tạo mạnh mẽ được phát triển bởi Prime Intellect, đã chứng minh hiệu suất tối ưu nhất trong các tiêu chuẩn phát hiện tác nhân gây bệnh và nhúng metagenomics. Kiến trúc Transformer với 7 tỷ tham số này, được đào tạo trên hơn 1,5 nghìn tỷ cặp bazơ DNA và RNA từ các mẫu nước thải, xuất sắc trong việc xác định các mẫu genomic tinh tế, phục vụ như một hệ thống cảnh báo sớm cho các tác nhân gây bệnh mới nổi.

Quá trình giải trình tự metagenomics được sử dụng bởi Metagene-1 thu thập các mẫu từ nước thải, trích xuất chất liệu di truyền và xử lý dữ liệu thành định dạng mà trí tuệ nhân tạo có thể hiểu được. Tập dữ liệu khổng lồ này cho phép mô hình học các mẫu phức tạp trong thông tin di truyền, cho phép nó phát hiện và xác định chính xác các vi rút, vi khuẩn và các mối đe dọa sức khỏe tiềm ẩn khác.

Bằng cách đạt được kết quả hàng đầu trên các tiêu chuẩn chuẩn của ngành, Metagene-1 đã chứng minh là một công cụ tiên tiến trong cuộc đua phát triển một hệ thống cảnh báo sớm về tác nhân gây bệnh trên toàn cầu. Công nghệ này đại diện cho một bước quan trọng trong việc bảo vệ nhân loại khỏi các rủi ro ngày càng tăng của các mối đe dọa sinh học, đặc biệt là trong kỷ nguyên của sự tiến bộ theo cấp số nhân trong công nghệ sinh học.

Sự tiến bộ nhanh chóng của các khả năng trí tuệ nhân tạo, đặc biệt là trong các mô hình ngôn ngữ lớn, đã nâng lên những lo ngại đáng kể về việc lạm dụng tiềm năng của các công nghệ này để tạo ra vũ khí sinh học và cho phép các cuộc tấn công sinh học quy mô lớn. Như Dario Amodei của OpenAI đã làm chứng, rủi ro của những mối đe dọa như vậy xuất hiện trong vòng 2-3 năm tới là đáng kể và cần được chú ý ngay lập tức.

Prime Intellect, một công ty tập trung vào việc giải quyết những rủi ro này, đã phát triển Metagene 1, một mô hình trí tuệ nhân tạo mạnh mẽ được đào tạo trên hơn 1,5 nghìn tỷ cặp bazơ DNA và RNA từ các mẫu nước thải. Mô hình này, được cung cấp bởi một kiến trúc Transformer với 7 tỷ tham số, có khả năng phân tích toàn bộ vi sinh vật học ở quy mô xã hội, xác định các mẫu genomic tinh tế có thể phục vụ như một hệ thống cảnh báo sớm cho các tác nhân gây bệnh mới nổi.

Quá trình Metagene 1 cho thấy cách trí tuệ nhân tạo có thể được sử dụng để theo dõi các mối đe dọa sức khỏe tiềm ẩn và hiểu rõ hơn về thế giới xung quanh chúng ta. Bằng cách đạt được hiệu suất tối ưu nhất trong các tiêu chuẩn phát hiện tác nhân gây bệnh và nhúng metagenomics, mô hình này đại diện cho một bước quan trọng hướng tới một hệ thống cảnh báo sớm về tác nhân gây bệnh trên toàn cầu để ngăn ngừa đại dịch tiếp theo.

Tuy nhiên, tính cấp thiết của vấn đề này được nhấn mạnh thêm bởi các nghiên cứu từ MIT và các nhóm nghiên cứu khác, những người đã chỉ ra rằng các mô hình ngôn ngữ lớn có thể dân chủ hóa việc tiếp cận công nghệ sinh học có hai mặt, khiến việc lập kế hoạch và thực hiện các cuộc tấn công vũ khí sinh học trở nên dễ dàng hơn đối với những người không phải là chuyên gia. Mặc dù các khả năng hiện tại của những mô hình này có thể bị hạn chế, nhưng sự tiến hóa nhanh chóng của công nghệ trí tuệ nhân tạo có nghĩa là mối đe dọa này có thể trở thành hiện thực trong tương lai gần.

Để giải quyết thách thức này, điều quan trọng là ngành công nghiệp và cộng đồng nghiên cứu trí tuệ nhân tạo phải làm việc hợp tác để phát triển các biện pháp bảo vệ mạnh mẽ và các biện pháp không phổ biến. Điều này có thể bao gồm đánh giá trước khi phát hành các mô hình ngôn ngữ, tạo ra các tập dữ liệu đào tạo loại bỏ các khái niệm có hại và thực hiện các quy trình sàng lọc có thể xác minh được cho việc tổng hợp DNA và các tổ chức nghiên cứu hợp đồng.

Cuộc đua để dẫn đầu những mối đe dọa sinh học mới nổi này đang diễn ra, và các công ty như Prime Intellect đang dẫn đầu trong việc sử dụng trí tuệ nhân tạo để tạo ra một tương lai an toàn và lành mạnh hơn cho tất cả chúng ta.

Sự tiến bộ nhanh chóng của các mô hình ngôn ngữ lớn (LLM) đã nâng lên những lo ngại về khả năng lạm dụng chúng, đặc biệt là trong lĩnh vực các mối đe dọa sinh học. Các nghiên cứu gần đây đã nhấn mạnh khả năng đáng báo động rằng những hệ thống trí tuệ nhân tạo mạnh mẽ này có thể được các tác nhân xấu sử dụng để tạo điều kiện cho việc tạo ra vũ khí sinh học ở cấp độ đại dịch.

Một nghiên cứu được thực hiện bởi các nhà nghiên cứu tại Viện Công nghệ Massachusetts (MIT) vào năm 2023 đã phát hiện ra rằng các sinh viên không phải là nhà khoa học có thể sử dụng các trò chuyện bot LLM để xác định các tác nhân gây đại dịch tiềm năng, nhận được hướng dẫn để tổng hợp chúng và tìm các công ty không có khả năng sàng lọc những đơn đặt hàng như vậy. Điều này cho thấy rằng LLM có thể khiến các tác nhân gây đại dịch trở nên phổ biến rộng rãi, thậm chí với những cá nhân không có kinh nghiệm phòng thí nghiệm.

Mặc dù một nghiên cứu tiếp theo vào năm 2024 kết luận rằng các LLM hiện tại không làm tăng đáng kể rủi ro liên quan đến việc lập kế hoạch tấn công vũ khí sinh học, các tác giả đã thừa nhận sự tiến hóa nhanh chóng của trí tuệ nhân tạo và sự cần thiết phải theo dõi chặt chẽ các phát triển trong tương lai. Họ nhấn mạnh rằng khoảng cách giữa các khả năng LLM hiện tại và kiến thức cần thiết cho những cuộc tấn công như vậy có thể đang nhanh chóng thu hẹp, như được chứng minh bởi sự tiến bộ nhanh chóng của Trung Quốc trong việc bắt kịp các mô hình tiên tiến của OpenAI.

Để đối phó với những lo ngại này, các nhà nghiên cứu và công ty đang khám phá các biện pháp chủ động để giảm thiểu các rủi ro sử dụng hai mặt của LLM. Các giải pháp được đề xuất bao gồm đánh giá trước khi phát hành bởi bên thứ ba, tạo ra các tập dữ liệu đào tạo loại bỏ nội dung có hại và thực hiện các quy trình sàng lọc có thể xác minh được cho việc tổng hợp DNA và các tổ chức nghiên cứu hợp đồng.

Khi ngành công nghiệp trí tuệ nhân tạo tiếp tục phát triển, việc cân bằng giữa những lợi ích to lớn của các công nghệ này và nhu cầu bảo vệ chúng khỏi việc lạm dụng sẽ