GitHub Models mang đến cho nhà phát triển sức mạnh mới để thử nghiệm với Gen AI

GitHub không còn xa lạ với thế giới AI dành cho phát triển, nhưng cho đến nay, việc các nhà phát triển dùng thử các mô hình Gen AI mới vẫn chưa thực sự dễ dàng. Điều đó đang bắt đầu thay đổi vào hôm nay.

GitHub đang ra mắt một nỗ lực mới có tên là GitHub Models nhằm mục đích cung cấp một con đường dễ dàng hơn cho các nhà phát triển doanh nghiệp dùng thử và xây dựng ứng dụng với Gen AI. GitHub là đơn vị tiên phong trong việc sử dụng Gen AI, đặc biệt là với dịch vụ GitHub Copilot. Với GitHub Copilot, các nhà phát triển có được khả năng đề xuất và hoàn thành mã để xây dựng ứng dụng. GitHub Copilot hiện được cung cấp bởi một mô hình duy nhất mà GitHub đã tuyển chọn và đánh giá cẩn thận. Mặt khác, GitHub Models là một sáng kiến ​​mới cung cấp cho các nhà phát triển quyền truy cập trực tiếp vào một loạt các mô hình AI hơn, bao gồm Llama 3.1 của Meta, GPT-4o của OpenAI, Mistral Large 2, Jamba-Instruct của AI21, Microsoft Phi-3 cũng như các mô hình từ Cohere.

Mục tiêu của dịch vụ mới là cho phép các nhà phát triển thử nghiệm và tích hợp các mô hình Gen AI vào ứng dụng của riêng họ, vượt xa khả năng chỉ hoàn thành mã.

“Mọi ứng dụng có thể sẽ được tạo ra trong những tháng và năm tới đều sẽ được gắn liền với trí thông minh”, Mario Rodriguez, phó chủ tịch cấp cao về sản phẩm tại GitHub nói với VentureBeat. “Sẽ không còn đủ để bạn có một ứng dụng, bạn sẽ phải có một ứng dụng được hỗ trợ bởi trí thông minh.”

Trọng tâm chính của sáng kiến ​​GitHub Models là giảm bớt khó khăn mà các nhà phát triển gặp phải khi cố gắng thử nghiệm và tích hợp các mô hình AI vào ứng dụng của họ. Rodriguez lưu ý rằng trước đây các nhà phát triển phải chuyển đổi giữa rất nhiều trang web và tạo nhiều tài khoản chỉ để thử nghiệm các mô hình khác nhau.

Rodriguez cho biết đối với người dùng GitHub trước đây, không thể dễ dàng khám phá và truy cập một loạt các mô hình Gen AI chỉ bằng cách sử dụng danh tính GitHub. Đối với các nhà phát triển sử dụng GitHub, danh tính cung cấp quyền truy cập vào một loạt các khả năng và giúp việc phát triển mã dễ dàng hơn.

“Chúng tôi chỉ muốn làm cho nó cực kỳ đơn giản, bạn biết đấy, AI không phải là một mốt nhất thời, nó sẽ còn tồn tại”, Rodriguez nói. “Vì vậy, chúng ta phải đưa sự khó khăn đó về 0, nếu chúng ta muốn thị trường đó tiếp tục phát triển.”

Sáng kiến ​​GitHub Models nhằm mục đích giảm bớt khó khăn về AI cho các nhà phát triển bằng cách cung cấp một danh mục tập trung các mô hình AI mà các nhà phát triển có thể truy cập và thử nghiệm trực tiếp trong nền tảng GitHub, sử dụng danh tính GitHub hiện có của họ.

Mặc dù việc giảm bớt khó khăn để giúp các nhà phát triển thử nghiệm và dùng thử các mô hình Gen AI là mục tiêu cốt lõi của GitHub Models, nhưng đó không phải là mục tiêu duy nhất.

GitHub cũng đang cung cấp một con đường cho người dùng của mình dễ dàng chuyển từ thử nghiệm sang triển khai sản xuất các ứng dụng hỗ trợ AI. Con đường đó dẫn đến Microsoft Azure. GitHub tất nhiên là một phần của Microsoft, vì vậy không có gì ngạc nhiên khi đó là hướng đi.

Cách thức hoạt động là người dùng sẽ thử nghiệm các mô hình AI trong sân chơi GitHub Models để đánh giá khả năng và hiệu suất của chúng. Từ đó, nhà phát triển sẽ chuyển sang môi trường nhà phát triển GitHub Codespace hoặc VS code và truy cập Azure SDK (bộ công cụ phát triển phần mềm) để có được các mã thông báo và khóa API cần thiết để kết nối với nền tảng Azure.

Con đường triển khai AI cho doanh nghiệp cũng là về việc vượt qua những thách thức.

Rodriguez đã xác định ba thách thức chính mà các nhà phát triển phải đối mặt khi làm việc với các mô hình AI: độ trễ, chất lượng của phản hồi và chi phí. Một phần mục tiêu của GitHub Models là giúp các nhà phát triển điều hướng những thách thức này bằng cách cung cấp một môi trường để thử nghiệm và so sánh.

Mặc dù các tiêu chuẩn ngành dành cho các mô hình Gen AI khác nhau rất hữu ích, nhưng Rodriguez lưu ý rằng chúng không cho biết toàn bộ câu chuyện.

“Bạn thực sự phải dựa vào đánh giá ngoại tuyến và đánh giá trực tuyến của mình để đưa ra quyết định tốt nhất”, ông nói.