Một startup chỉ 26 người, với 15 triệu USD gọi vốn, tự tin tuyên bố sẽ hạ bệ đế chế CUDA của NVIDIA. Nghe có vẻ điên rồ, nhưng nếu nhìn vào đội ngũ – cựu Google Brain, được hậu thuẫn bởi các nhà nghiên cứu OpenAI và Anthropic – thì câu chuyện bỗng trở nên đáng để bỏ thời gian. Infinity, cái tên đang gây sốt trong giới AI infrastructure, hứa hẹn một tương lai nơi AI tự viết code tối ưu cho mọi loại chip: từ GPU, SRAM, đến các kiến trúc kỳ lạ như systolic array. Liệu đây là bước ngoặt phá vỡ thế độc quyền của CUDA, hay chỉ là một narrative được dựng lên để hút vốn? Tôi đã đào sâu vào bảy chiều của dự án này, và đây là những gì tôi tìm thấy.
Context: Bối cảnh ra đời của một kẻ nổi loạn
Thị trường AI inference đang bị NVIDIA thống trị bởi hai thứ: phần cứng mạnh và phần mềm CUDA chết người. Các startup chip AI như D-Matrix, Cerebras, hay Groq phải vất vả xây dựng software stack từ con số 0, thường mất hàng năm trời và hàng chục triệu đô. Infinity xuất hiện với lời đề nghị: “Hãy để AI của chúng tôi tự động tạo ra những kernel code tối ưu cho chip của bạn – nhanh hơn, hiệu quả hơn bất kỳ kỹ sư CUDA nào.” Họ gọi hệ thống này là Ignition: một AI agent có khả năng viết, test, debug, và tối ưu code liên tục. Không cần trả phí trước, chỉ chia sẻ phần trăm lợi ích từ hiệu năng tăng thêm. Mô hình pay-for-performance, nghe như một giấc mơ cho các nhà sản xuất chip đang khao khát thoát khỏi ách NVIDIA.
Core: Cơ chế câu chuyện và phân tích kỹ thuật
Điểm mấu chốt của Infinity nằm ở Ignition. Thay vì dùng compiler tĩnh như TVM hay MLIR, họ dùng reinforcement learning và evolutionary algorithms để sinh ra code hợp ngữ (assembly) hoặc CUDA tương đương, sau đó benchmark để chọn ra bản tốt nhất. Đây không phải là ý tưởng mới – AutoTVM đã làm điều tương tự từ năm 2018. Nhưng Ignition được quảng cáo là có khả năng tự khám phá các pattern mới, thậm chí vượt qua kỹ sư con người. Tôi muốn tin, nhưng hãy nhìn vào thực tế: họ chưa công bố bất kỳ benchmark nào trên MLPerf, chưa có paper, chưa có con số cụ thể về hiệu năng trên các model phức tạp như GPT-4 hay Llama 3. Với 26 người, việc xây dựng một compiler AI hoạt động ổn định trên đa dạng kiến trúc là thách thức cực kỳ lớn. Nếu Ignition chỉ hiệu quả trên một vài op đơn giản, câu chuyện sụp đổ ngay lập tức.
Hãy phân tích một chút về mặt kỹ thuật: một AI agent viết kernel có thể bị quá tải bởi không gian tìm kiếm khổng lồ – hàng triệu tổ hợp loop tiling, thread mapping, memory coalescing. Để tối ưu cho một model như Stable Diffusion, cần hàng trăm op khác nhau. Chi phí để train và chạy Ignition cho mỗi client mới sẽ rất cao. Infinity nói họ tự động hóa, nhưng thực tế, họ cần một lượng lớn compute để vận hành agent. Với 15 triệu USD, họ chỉ có thể sustain đội ngũ 26 người và chi phí GPU rental trong khoảng 18-24 tháng. Áp lực phải show revenue là cực kỳ lớn.
Contrarian: Góc nhìn phản trực giác – Mô hình pay-for-performance là con dao hai lưỡi
Tưởng chừng đây là thiên đường cho khách hàng: không rủi ro, chỉ trả tiền khi có kết quả. Nhưng hãy nghĩ sâu hơn: làm sao để đo lường 'hiệu năng tăng thêm' một cách công bằng? Infinity sẽ dùng benchmark nào? Customer’s workload? Nếu khách hàng chạy model A tốt, nhưng model B kém, ai chịu trách nhiệm? Việc thiết lập một hệ thống đo lường minh bạch giữa hai bên là cực kỳ phức tạp, thậm chí có thể dẫn đến tranh chấp. Hơn nữa, chi phí chia sẻ lợi nhuận có thể khiến Infinity phụ thuộc quá nhiều vào thành công của từng khách hàng, trong khi các client chip startup lại có rủi ro kinh doanh rất cao – nếu D-Matrix thất bại, Infinity mất nguồn thu. Mô hình này cũng khiến họ khó scale: mỗi client mới đều cần Ignition tinh chỉnh riêng, tốn thời gian và compute, biến họ từ một software company thành một consulting shop với biên lợi nhuận thấp.
Thêm một điểm mù: các gã khổng lồ như NVIDIA hay AMD hoàn toàn có thể tích hợp một AI agent tương tự vào TensorRT hoặc ROCm. Nếu NVIDIA ra mắt “AI Compiler” trong 12 tháng tới, toàn bộ sự khác biệt của Infinity biến mất. Đừng quên rằng đội ngũ CUDA của NVIDIA có hàng ngàn kỹ sư và ngân sách R&D hàng tỷ đô. Một startup 26 người sẽ không thể thắng trong cuộc đua về nguồn lực. Cạnh tranh không chỉ đến từ NVIDIA; còn có Modular AI (MOJO), OpenAI Triton, Google XLA, và cả MLIR – tất cả đều đang tiếp cận bài toán tự động hóa. Infinity đang ở trong một chiến trường rất đông đúc, vũ khí duy nhất là Ignition, mà hiện còn chưa được chứng minh.
Takeaway: Câu chuyện tiếp theo bạn nên theo dõi
Infinity là một cược lớn vào niềm tin rằng AI có thể tự viết code hiệu quả hơn con người. Nếu thành công, họ sẽ mở ra một kỷ nguyên phần mềm tự động, nơi bất kỳ chip AI nào cũng có thể đạt hiệu năng GPU-level chỉ sau vài ngày huấn luyện Ignition. Nhưng nếu thất bại, họ sẽ là một ghi chú trong lịch sử về những startup quá tham vọng. Dấu hiệu đầu tiên để kiểm chứng: hãy xem Infinity có submit kết quả MLPerf Inference v4.1 vào cuối năm nay không. Nếu không, câu chuyện chỉ là bong bóng. Còn nếu có, và điểm số sánh ngang với NVIDIA H100 trên các model chính thống… thì lúc đó, tôi sẽ thực sự bắt đầu lo lắng cho CUDA.