Etched Công Bố Chip AI Sohu: Gấp 20 Lần Sức Mạnh Nvidia H100

Ngày 26/6, startup Etched có trụ sở tại San Francisco đã công bố chip AI mang tên Sohu, với tuyên bố rằng chip này có sức mạnh gấp 20 lần so với Nvidia H100, một trong những GPU mạnh nhất hiện nay.

Chip Sohu: Đột Phá Trong Công Nghệ AI

Sohu là một dạng mạch tích hợp dành riêng cho ứng dụng (ASIC), được thiết kế để đánh bại GPU H100 của Nvidia về khả năng suy luận trong các mô hình ngôn ngữ lớn (LLM). Theo Etched, một hệ thống với 8 chip Sohu có thể đạt hiệu suất tương đương 160 H100. Điều này có thể tiết kiệm hàng tỷ USD chi phí ban đầu và chi phí vận hành cho các trung tâm xử lý dữ liệu, đồng thời đe dọa vị thế dẫn đầu của Nvidia.

Etched cho biết, hiện tại các hệ thống tăng tốc AI, dù là CPU hay GPU, đều được thiết kế để hoạt động với nhiều kiến trúc AI khác nhau như Mạng thần kinh tích chập (Convolution Neural Network), Mạng bộ nhớ ngắn hạn (Short-term Memory Network) hay mô hình không gian trạng thái (State Space Model). Do đó, phần lớn sức mạnh tính toán của các chip AI đa năng hiện tại bị phân bổ cho khả năng lập trình thay vì tác vụ chính.

Kiến Trúc Transformer: Canh Bạc Lớn

Etched đã đưa vào Sohu Kiến trúc AI biến áp (Transformer Architecture), cho phép phân bổ nhiều bóng bán dẫn hơn cho tính toán trí tuệ nhân tạo trên chip. Thay vì tạo ra một chip có thể đáp ứng mọi kiến trúc AI đơn lẻ, họ đã tạo ra sản phẩm tối ưu hóa để chạy một dạng mô hình AI cụ thể. Kiến trúc Transformer cũng là nền tảng của các mô hình GPT (Generative Pre-trained Transformer) như GPT-3 và GPT-4 của OpenAI, cũng như các mô hình Sora, Gemini, Stable Diffusion và Dall-E.

“Đây là canh bạc của chúng tôi,” Gavin Uberti, một đại diện của Etched, nói với Reuters. “Nếu Transformer biến mất, công ty chúng tôi sẽ chết. Nhưng nếu nó tiếp tục tồn tại, chúng tôi có tiềm năng trở thành một trong những công ty lớn nhất mọi thời.”

Ưu Điểm Vượt Trội

Etched ước tính rằng GPU H100 của Nvidia chỉ sử dụng 3,3% số bóng bán dẫn cho tác vụ chính, còn 96,7% còn lại được sử dụng cho các tác vụ khác, dẫn đến sự lãng phí lớn. Trong khi đó, chip Sohu của Etched có thể tối ưu hóa toàn bộ tài nguyên của mình cho các tác vụ AI, mang lại hiệu suất vượt trội.

Tom’s Hardware đánh giá, nếu Sohu đáp ứng được kỳ vọng, các trung tâm xử lý dữ liệu có thể tiết kiệm hàng tỷ USD chi phí ban đầu và chi phí vận hành. Điều này thậm chí có thể thách thức vị thế dẫn đầu của Nvidia trên thị trường chip AI.

Tương Lai Của Chip Sohu

Dù Etched chưa công bố giá của Sohu, nhưng với đối thủ Nvidia H100 hiện có giá khoảng 40.000 USD, việc Sohu có thể cung cấp hiệu suất vượt trội với chi phí thấp hơn sẽ là một cú hích lớn cho ngành công nghệ AI.

Với tiềm năng lớn từ kiến trúc Transformer, chip Sohu của Etched không chỉ hứa hẹn đem lại hiệu suất vượt trội mà còn mở ra một kỷ nguyên mới cho các ứng dụng trí tuệ nhân tạo. Tuy nhiên, mọi thứ sẽ chỉ được chứng minh khi chip của Etched đi vào vận hành và được thử nghiệm trong các điều kiện thực tế.

Chip AI Sohu của Etched đánh dấu một bước tiến mới trong công nghệ AI, hứa hẹn đem lại hiệu suất vượt trội và tiết kiệm chi phí cho các trung tâm dữ liệu. Nếu thành công, Sohu có thể định hình lại thị trường và thay đổi cách chúng ta tiếp cận với trí tuệ nhân tạo trong tương lai.