Tether giới thiệu QVAC SDK, khung công cụ nguồn mở cho trí tuệ nhân tạo tại chỗ trên nhiều thiết bị và hệ điều hành

Nhóm QVAC thuộc Tether vừa công bố ra mắt QVAC SDK, một bộ công cụ phát triển phần mềm nguồn mở được thiết kế như nền tảng khởi đầu phổ quát cho trí tuệ nhân tạo. Theo định hướng của Tether, trong bối cảnh tương lai dự kiến khoảng giai đoạn 2100-2150, khi có tới 10 tỷ người sống cùng 10 tỷ máy tự trị và khoảng một nghìn tỷ tác nhân AI, công ty tập trung vào stablecoin và tài sản kỹ thuật số đang thúc đẩy khái niệm “Kỷ nguyên Trí tuệ Ổn định”.

QVAC SDK hướng tới mô hình AI tích hợp tại thiết bị

Theo bài đăng blog của Tether, QVAC SDK cung cấp một môi trường AI module cao, hiệu năng cao và tập trung vào thiết bị. Nền tảng được kỳ vọng hoạt động ổn định trên đa số phần cứng hoặc phần mềm, từ các máy chủ công nghiệp quy mô lớn đến các bộ xử lý nhỏ tích hợp trong thiết bị gia dụng như bóng đèn.

SDK cũng được xây dựng để phát triển theo tiến bộ phần cứng, duy trì khả năng thích ứng theo thời gian khi thế hệ chip và công nghệ silicon thay đổi. Tether cho biết SDK cho phép nhà phát triển xây dựng, triển khai và tinh chỉnh mô hình AI trực tiếp trên phần cứng cuối của người dùng, với mức độ nhất quán được nhấn mạnh trong quá trình chạy ứng dụng.

Chạy đa nền tảng với cùng một mã

Một điểm đáng chú ý được nêu trong thông tin công bố là khả năng chạy cùng một mã mà không cần sửa đổi trên iOS, Android, Windows, macOS và Linux. Điều này được mô tả là giúp giảm các vấn đề thường gặp liên quan đến khác biệt nền tảng, bao gồm việc phải viết lại hoặc dùng workaround.

Hệ sinh thái ứng dụng ưu tiên quyền riêng tư và hoạt động khi mất kết nối

Tether cho rằng các ứng dụng tạo ra từ QVAC SDK có thể thực hiện nhiều tác vụ AI trên thiết bị tiêu dùng như điện thoại thông minh, máy tính xách tay, máy tính để bàn và cả hệ thống cấp doanh nghiệp. Các tác vụ được đề cập gồm mô hình ngôn ngữ lớn, nhận diện giọng nói thành văn bản, dịch thuật theo thời gian thực, tạo hình ảnh, theo dõi tài chính, tóm tắt tài liệu và tìm kiếm thông minh.

Về mặt vận hành, dữ liệu được giữ tại chỗ nhằm giảm rủi ro liên quan đến truyền tải lên đám mây. Đồng thời, các ứng dụng vẫn có thể hoạt động đầy đủ trong trường hợp mất kết nối internet hoặc gián đoạn máy chủ. Tether mô tả kết quả kỳ vọng là nhanh hơn, ổn định hơn và mang lại trải nghiệm tập trung vào quyền riêng tư cá nhân.

Thiết kế tối giản cho nhà phát triển

Theo Tether, QVAC SDK được hướng tới quy trình làm việc tối giản, trừu tượng hóa sự phức tạp của việc hỗ trợ đa nền tảng. Thay vì phải gắn kết nhiều cơ sở mã hoặc phụ thuộc vào các API từ xa, các nhóm phát triển có thể tập trung vào việc xây dựng sản phẩm linh hoạt và đáp ứng.

QVAC Fabric và các công cụ tích hợp

Giao diện của SDK được lấy cảm hứng từ lõi “QVAC Fabric”, một sự thích nghi đặc biệt của engine llama.cpp được sử dụng rộng rãi. Bên cạnh đó, nền tảng tích hợp các công cụ địa phương cho nhận diện giọng nói (bao gồm whisper.cpp và Parakeet) và dịch ngôn ngữ trên thiết bị (Bergamot).

Khả năng tích hợp được nêu bao gồm sinh văn bản, nhúng, phân tích hình ảnh, nhận diện ký tự quang học, tổng hợp giọng nói và nhiều chức năng khác, tất cả được cung cấp thông qua một API duy nhất.

Phân quyền và chia sẻ mô hình bằng peer-to-peer

Theo cập nhật từ Tether, phân quyền được xem là nền tảng của QVAC SDK. Tận dụng khung Holepunch, SDK hiện nhúng các tính năng peer-to-peer để chia sẻ mô hình và phân phối tác vụ tính toán. Trong các bản cập nhật sắp tới, Tether cho biết nền tảng sẽ hướng tới cơ chế cho phép “bầy đàn” hợp tác để huấn luyện và suy luận mà không cần máy chủ tập trung.

Các chức năng này được mô tả là hoạt động xuyên suốt trên tất cả nền tảng được hỗ trợ, nhằm nuôi dưỡng các ứng dụng có khả năng phát triển trong môi trường có thể bị ngắt kết nối.

Quan điểm của CEO Tether và kế hoạch mở rộng cộng đồng

Paolo Ardoino, CEO của Tether, nhấn mạnh sự cần thiết của cách tiếp cận này: theo ông, việc phụ thuộc vào máy chủ trung tâm truyền thống không thể xử lý quy mô của một thế giới AI bão hòa, nơi các giới hạn vật lý như độ trễ tín hiệu và các lỗ hổng hệ thống trở nên khó khắc phục. Ông cho rằng QVAC được thiết kế riêng cho thực tế phi tập trung sắp tới.

Về định hướng phát triển, Tether được cho là đang lên kế hoạch dành nguồn lực lớn để mở rộng cộng đồng nguồn mở quanh QVAC, đồng thời bổ sung các mô-đun chuyên môn cho các lĩnh vực như robotics và giao diện não-máy tính. Việc ưu tiên xử lý tại thiết bị được đặt trong mục tiêu đáp ứng yêu cầu về tốc độ, an ninh và sự tự chủ khi AI ngày càng được tích hợp vào cơ sở hạ tầng vật lý cũng như các hoạt động hằng ngày.