Với sự dẫn đầu từ Intel Capital, startup TrueFoundry đã gọi vốn thành công 19 triệu USD trong vòng Series A, nhằm hỗ trợ doanh nghiệp triển khai hệ thống AI một cách hiệu quả và tiết kiệm chi phí.
TrueFoundry, một startup được thành lập bởi các cựu kỹ sư Meta, vừa công bố huy động thành công 19 triệu USD trong vòng gọi vốn Series A do Intel Capital dẫn đầu. Khoản đầu tư này sẽ giúp công ty tiếp tục phát triển nền tảng phần mềm hỗ trợ doanh nghiệp triển khai hệ thống AI ở quy mô lớn.
Kể từ khi ChatGPT ra mắt vào tháng 11 năm 2022, các doanh nghiệp trên toàn cầu đã tìm cách ứng dụng AI vào hoạt động của mình. Tuy nhiên, việc triển khai AI, đặc biệt là các mô hình ngôn ngữ lớn (LLM), đòi hỏi nguồn lực tính toán khổng lồ và tối ưu hóa GPU. Đây là thách thức lớn đối với nhiều doanh nghiệp, đặc biệt là những công ty không có khả năng tiếp cận hàng trăm hoặc hàng nghìn GPU.
TrueFoundry giải quyết vấn đề này bằng nền tảng phần mềm theo mô hình Platform-as-a-Service (PaaS), nhắm đến các nhà khoa học dữ liệu toàn diện. Nền tảng này cung cấp các tính năng như tự động mở rộng quy mô, bảo trì chủ động, kiểm soát truy cập tập trung và giám sát thời gian thực, giúp đơn giản hóa quá trình triển khai AI từ đầu đến cuối.
Được thành lập vào tháng 6 năm 2021 bởi các cựu kỹ sư Meta Nikunj Bajaj và Abhishek Choudhary cùng đồng nghiệp Anuraag Gutgutia từ IIT Kharagpur, TrueFoundry ban đầu tập trung vào việc tăng tốc triển khai machine learning trên đa nền tảng đám mây. Tuy nhiên, khi AI trở thành xu hướng chính vào năm 2023, startup này đã điều chỉnh hệ thống để hỗ trợ các khả năng của AI.
“Trước đây, các nhà khoa học dữ liệu chỉ làm việc với các mô hình và thử nghiệm chúng, nhưng việc triển khai thường được chuyển giao cho các kỹ sư machine learning. Với hệ thống của chúng tôi, các nhà khoa học dữ liệu có thể tự xây dựng và kiểm tra toàn bộ hệ thống phức tạp này ở quy mô lớn trước khi chuyển giao cho đội ngũ nền tảng để triển khai cuối cùng,” Gutgutia chia sẻ trong một cuộc phỏng vấn độc quyền.
TrueFoundry cung cấp một giải pháp phần mềm gọi là autopilot system, sử dụng AI để phân tích nhật ký và số liệu, giúp điều chỉnh việc sử dụng GPU và tối ưu hóa yêu cầu bộ nhớ. Nhờ hệ thống này, một khách hàng của TrueFoundry với nhóm chỉ hai người đã quản lý được 10 triệu yêu cầu mỗi giây.
Hiện tại, TrueFoundry có 30 khách hàng trả phí trên toàn cầu, cùng với nhiều người dùng truy cập khung RAG mã nguồn mở của công ty để thử nghiệm. Trong số các khách hàng này có NVIDIA, công ty sử dụng phần mềm của TrueFoundry để xây dựng và triển khai các tác nhân tối ưu hóa cụm GPU của họ. Các công ty khác như Resmed, Siemens Healthineers, Automation Anywhere, Games24x7 và Whatfix cũng đang sử dụng nền tảng này.
TrueFoundry đã xây dựng phần mềm của mình dựa trên Kubernetes, giúp nó tương thích với đa nền tảng đám mây như AWS, Google Cloud Platform và Azure. Ngoài ra, doanh nghiệp cũng có thể triển khai nền tảng này trực tiếp trên cơ sở hạ tầng của mình.
Theo Bajaj, các doanh nghiệp sử dụng TrueFoundry có thể xây dựng và ra mắt nền tảng AI nội bộ trong vòng hai tháng và đạt được lợi tức đầu tư (ROI) chỉ sau bốn tháng, so với mức trung bình ngành là 14 tháng. Gutgutia cũng cho biết, startup này giúp khách hàng giảm 40-50% chi phí hạ tầng và tăng tốc độ triển khai lên gấp 10 lần.
Mặc dù các nhà cung cấp đám mây lớn như Amazon và Google đã có những giải pháp riêng để hỗ trợ triển khai AI, Gutgutia khẳng định rằng TrueFoundry vẫn có chỗ đứng nhờ khả năng tăng tốc sử dụng tài nguyên tính toán, rút ngắn thời gian đưa sản phẩm ra thị trường và giảm chi phí tổng thể.
Vòng gọi vốn Series A còn có sự tham gia của Eniac Ventures, Peak XV Partners, Jump Capital cùng các nhà đầu tư thiên thần như Gokul Rajaram, Mohit Aron và Cyan Bainster. TrueFoundry dự định sử dụng số tiền này để mở rộng đội ngũ từ 45 thành viên tại Ấn Độ sang các vị trí tiếp thị và bán hàng tại Mỹ. Công ty cũng đang lên kế hoạch hợp tác với các nhà cung cấp đám mây và sẽ sớm có mặt trên AWS Marketplace.
Với tổng số vốn huy động lên tới hơn 21 triệu USD, TrueFoundry đang trên đà tăng trưởng mạnh mẽ, hứa hẹn mang đến những giải pháp AI tiên tiến và hiệu quả cho doanh nghiệp toàn cầu.