Tương lai của trí tuệ nhân tạo (AI) đang chuẩn bị chuyển hướng khỏi cơ sở hạ tầng dựa trên đám mây tiêu tốn nhiều năng lượng đã thống trị các tiêu đề. Thay vào đó, ngành công nghiệp đang chuyển sang một cách tiếp cận hiệu quả và phi tập trung hơn, nơi tính toán AI được đẩy đến các thiết bị cạnh biên như điện thoại thông minh, máy tính xách tay và thậm chí cả ô tô.

Các công ty chip như Qualcomm đang dẫn đầu xu hướng này, phát triển các bộ vi xử lý mạnh mẽ và tiết kiệm năng lượng được thiết kế đặc biệt để chạy các mô hình ngôn ngữ lớn và các tác vụ AI khác trực tiếp trên thiết bị. Cách tiếp cận này mang lại nhiều lợi ích chính, bao gồm cải thiện quyền riêng tư, bảo mật, độ trễ và hiệu quả về chi phí.

Sự tiến bộ trong kỹ thuật nén mô hình và phương pháp phối hợp đang cho phép triển khai các mô hình AI có khả năng cao trên các thiết bị cạnh biên. Các dự án như Mixture of Agents và RouteLL M cho thấy cách nhiều mô hình nhỏ, hiệu quả có thể hợp tác để tạo ra kết quả tương đương với các mô hình tiên phong lớn hơn và tốn kém hơn. Điều này cho phép xử lý 90% trường hợp sử dụng bằng các mô hình cục bộ, chi phí thấp, dẫn đến tiết kiệm chi phí đáng kể.

Tương lai của trí tuệ nhân tạo (AI) đang chuyển hướng về tính toán cạnh biên, nơi các mô hình AI mạnh mẽ nhưng hiệu quả có thể được triển khai trực tiếp trên các thiết bị như điện thoại thông minh, máy tính xách tay và thậm chí cả ô tô. Cách tiếp cận này mang lại nhiều lợi ích, bao gồm cải thiện quyền riêng tư, bảo mật, độ trễ thấp và giảm chi phí so với việc chỉ dựa vào xử lý AI dựa trên đám mây.

Các nhà sản xuất chip như Qualcomm đang dẫn đầu trong việc phát triển các bộ vi xử lý chuyên dụng được tối ưu hóa để chạy các mô hình ngôn ngữ lớn và các tác vụ AI khác trên các thiết bị cạnh biên. Những con chip này được thiết kế để rất tiết kiệm năng lượng, cho phép tích hợp các khả năng AI một cách liền mạch vào nhiều ứng dụng khác nhau.

Sự tiến bộ trong kỹ thuật nén mô hình và phương pháp phối hợp, như Mixture of Agents và RouteLL, đang cho phép triển khai các mô hình AI nhỏ hơn và hiệu quả hơn có thể mang lại hiệu suất tương đương với các mô hình lớn hơn và tốn kém về tài nguyên. Những đổi mới này cho phép xử lý phần lớn các trường hợp sử dụng bằng xử lý cục bộ trên thiết bị, giảm nhu cầu kết nối liên tục với đám mây và chi phí, độ trễ liên quan.

Tương lai của trí tuệ nhân tạo (AI) đang chuyển hướng về một cách tiếp cận phi tập trung và hiệu quả hơn, nơi tính toán AI được đẩy đến các thiết bị cạnh biên như điện thoại thông minh, máy tính xách tay và thậm chí cả ô tô. Sự chuyển dịch này được thúc đẩy bởi những tiến bộ trong công nghệ chip, khi các công ty như Qualcomm đang phát triển các bộ vi xử lý mạnh mẽ và tiết kiệm năng lượng được thiết kế đặc biệt để chạy các mô hình ngôn ngữ lớn và các tác vụ AI khác trên thiết bị.

Một trong những đổi mới chính trong lĩnh vực này là sự phát triển của các lớp phối hợp có thể xác định một cách thông minh các tác vụ AI nào nên được xử lý cục bộ trên thiết bị cạnh biên và các tác vụ nào nên được chuyển đến các mô hình dựa trên đám mây mạnh hơn nhưng tốn kém hơn. Các nhà nghiên cứu gần đây đã công bố các bài báo và mã nguồn mở để chứng minh hiệu quả của các kỹ thuật phối hợp này.

Ví dụ, phương pháp "Mixture of Agents" cho phép nhiều tác nhân AI nhỏ hợp tác và tạo ra các phản hồi tương đương với những mô hình lớn hơn và tốn kém hơn. Tương tự, bài báo "Route LLM" trình bày một lớp phối hợp có thể định tuyến 90% trường hợp sử dụng đến các mô hình nhỏ hơn và hiệu quả hơn, dẫn đến tiết kiệm chi phí 80% so với việc chỉ dựa vào các mô hình mạnh hơn, dựa trên đám mây.

Những đổi mới này, kết hợp với sự tiến bộ trong kỹ thuật nén và định lượng mô hình, đang cho phép phát triển các mô hình AI có khả năng cao có thể chạy một cách liền mạch trên các thiết bị cạnh biên. Sự chuyển dịch này về tính toán AI cạnh biên mang lại nhiều lợi ích, bao gồm cải thiện quyền riêng tư, bảo mật, độ trễ và hiệu quả về chi phí, phù hợp với mong muốn của nhiều người dùng muốn có nhiều quyền kiểm soát hơn đối với trải nghiệm AI của họ.

Qualcomm đã trình diễn một loạt các trải nghiệm demo được cung cấp bởi AI trên các thiết bị khác nhau, nhấn mạnh tầm nhìn của công ty về tương lai của tính toán AI. Những bản demo này đã thể hiện khả năng của các chip Qualcomm trong việc chạy các tác vụ AI một cách hiệu quả trên các thiết bị cạnh biên.

Một trong những bản demo nổi bật là việc tích hợp AI vào các giao diện ô tô. Qualcomm đã trình diễn cách các chip của họ có thể cung cấp nguồn điện cho hệ thống giải trí và cho phép một tác nhân AI thực hiện các tác vụ thay mặt người lái, tất cả đều chạy trên thiết bị. Điều này thể hiện tiềm năng của AI trong việc nâng cao trải nghiệm trong xe, đồng thời duy trì quyền riêng tư và bảo mật.

Một bản demo ấn tượng khác là việc tích hợp AI vào các máy bay không người lái thông minh, có thể tận dụng các khả năng AI cạnh biên để thực hiện nhiều ứng dụng khác nhau, từ sử dụng cá nhân đến các nhiệm vụ cứu hộ và giao hàng. Các chip của Qualcomm cho phép những máy bay không người lái này thực hiện các tác vụ AI phức tạp mà không cần dựa vào các dịch vụ dựa trên đám mây.

Qualcomm cũng đã nhấn mạnh về các máy tính đồng hành của họ, được thiết kế từ đầu để chạy AI cục bộ, được cung cấp nguồn điện bởi các chip Snapdragon X Elite của họ. Những thiết bị này có thể tận dụng các khả năng AI cạnh biên để cung cấp nhiều tính năng thông minh và các chức năng hỗ trợ.

Ngoài ra, Qualcomm cũng đã trình diễn các công cụ phần mềm của họ, như aiub, giúp tối ưu hóa các mô hình AI và triển khai chúng vào các ứng dụng, qua đó tiếp tục cho phép tích hợp AI vào nhiều thiết bị và trường hợp sử dụng khác nhau.

Các nhà sản xuất điện thoại thông minh như Qualcomm đang dẫn đầu trong việc mang các khả năng AI mạnh mẽ trực tiếp đến các thiết bị cạnh biên. Bằng cách tích hợp xử lý AI nâng cao vào các bộ vi xử lý di động mới nhất của họ, họ đang cho phép một loạt các tính năng sáng tạo có thể chạy một cách liền mạch trên thiết bị, mà không cần kết nối với đám mây.

Một ví dụ nổi bật là tính năng dịch thuật trực tiếp, nơi người dùng chỉ cần nhấn một nút để dịch các cuộc trò chuyện theo thời gian thực, tất cả đều được cung cấp bởi AI trên thiết bị. Một khả năng ấn tượng khác là tính năng "trợ lý chat", hoạt động như một trợ lý viết văn dựa trên AI, giúp người dùng tinh chỉnh các tin nhắn của họ bằng cách điều chỉnh giọng điệu, kiểm tra chính tả và cung cấp dịch vụ dịch thuật - tất cả đều không rời khỏi thiết bị.

Hơn nữa, các tính năng chụp ảnh được tăng cường bởi AI của Qualcomm, như công nghệ "nitrapyrin", tận dụng xử lý cạnh biên để mang lại chất lượng hình ảnh ấn tượng và các hiệu ứng nhiếp ảnh tính toán. Điều này cho phép người dùng tận hưởng lợi ích của các tính năng chỉnh sửa và tăng cường ảnh dựa trên AI nâng cao, mà không cần phải tải ảnh của họ lên đám mây.

Tương lai của các điện thoại thông minh được trang bị AI thực sự rất hấp dẫn, vì người dùng bây giờ có thể có các tác nhân thông minh làm việc thay mặt họ, xử lý các tác vụ như lập lịch, quản lý email và thậm chí là lập kế hoạch tài chính - tất cả trong khi đảm bảo quyền riêng tư và bảo mật của dữ liệu cá nhân của họ, vì các khả năng này được tích hợp trực tiếp vào phần cứng và phần mềm của thiết bị.

Tương lai của trí tuệ nhân tạo (AI) đang chuyển hướng về tính toán cạnh biên, nơi các mô hình AI mạnh mẽ được tối ưu hóa để chạy trực tiếp trên các thiết bị như điện thoại thông minh, máy tính xách tay và thậm chí cả ô tô. Cách tiếp cận này mang lại nhiều lợi ích, bao gồm cải thiện quyền riêng tư, bảo mật, độ trễ và hiệu quả về chi phí.

Các công ty chip như Qualcomm đang dẫn đầu trong việc phát triển các chip chuyên dụng có thể chạy hiệu quả các mô hình ngôn ngữ lớn và các thuật toán AI khác trên các thiết bị cạnh biên. Các đổi mới trong kỹ thuật nén mô hình, phối hợp và hợp tác giữa các mô hình nhỏ hơn đang cho phép xử lý phần lớn các trường hợp sử dụng cục bộ, mà không cần kết nối liên tục với đám mây.

Các bản demo từ Qualcomm đã trình diễn việc tích hợp AI vào nhiều ứng dụng khác nhau, từ hệ thống giải trí trong ô tô đến các máy bay không người lái thông minh và máy tính để bàn được xây dựng để xử lý AI cạnh biên. Các tính năng như dịch thuật theo thời gian thực, trợ lý viết văn dựa trên AI và xử lý ảnh nâng cao đã được cung cấp bởi AI chạy trên chính thiết bị.

Sự chuyển dịch này về tính toán AI cạnh biên đại diện cho một bước tiến đáng kể,赋予người dùng nhiều quyền kiể