Google ra mắt thêm hai hệ thống chip TPU mới, tăng tốc cuộc đua hạ tầng AI doanh nghiệp

Google mở rộng dòng chip TPU với hai hệ thống mới

Google đang đẩy mạnh chiến lược thâm nhập thị trường trí tuệ nhân tạo (AI) doanh nghiệp thông qua việc giới thiệu hai hệ thống mới sử dụng bộ xử lý Tensor (TPU) do chính công ty phát triển. Động thái này diễn ra trong bối cảnh nhu cầu ứng dụng AI đang thay đổi nhanh chóng, từ những chatbot chủ yếu trả lời câu hỏi sang các tác nhân AI có khả năng trực tiếp thực hiện nhiều nhiệm vụ phức tạp.

Hai sản phẩm mới được Google Cloud công bố vào ngày 9 theo giờ địa phương, gồm TPU 8tx và TPU 8i Max. Cả hai được thiết kế để giải quyết những yêu cầu ngày càng cao của doanh nghiệp khi triển khai AI, đặc biệt trong các lĩnh vực liên quan đến xử lý lượng dữ liệu lớn, bảo vệ thông tin nhạy cảm và duy trì hiệu suất khi nhiều tác nhân AI hoạt động đồng thời.

Việc ra mắt hai hệ thống mới tiếp nối sự xuất hiện của TPU 8t và TPU 8i hồi tháng 4 năm nay. Trong đó, TPU 8t được tối ưu hóa cho quá trình huấn luyện AI quy mô lớn, còn TPU 8i hướng đến hoạt động suy luận thời gian thực.

Như vậy, Google đã giới thiệu tổng cộng bốn hệ thống TPU chỉ trong một năm. Đây là lần đầu tiên công ty phát hành bốn hệ thống thuộc dòng sản phẩm này trong cùng một năm, cho thấy tốc độ mở rộng danh mục hạ tầng AI đang được đẩy nhanh.

Đáng chú ý, chiến lược phát triển mới không chỉ tập trung vào việc tăng sức mạnh tính toán của chip. Google đang hướng đến những vấn đề thực tế hơn trong môi trường doanh nghiệp, nơi AI phải xử lý khối lượng dữ liệu lớn, truy cập nhiều nguồn thông tin và bảo đảm tính bảo mật trong suốt quá trình vận hành.

TPU 8i Max tăng dung lượng HBM lên 384GB

Trong hai sản phẩm vừa được giới thiệu, TPU 8i Max được thiết kế để giải quyết một trong những hạn chế quan trọng của hệ thống AI hiện nay: nút thắt cổ chai về bộ nhớ.

Khi các tác nhân AI ngày càng đảm nhận nhiều công việc, lượng dữ liệu cần truy xuất và xử lý cũng tăng lên. Một hệ thống AI doanh nghiệp có thể phải đồng thời tham chiếu đến hàng loạt tài liệu, email, mã nguồn và những dữ liệu nội bộ khác. Nếu khả năng truy xuất bộ nhớ không theo kịp tốc độ tính toán, hiệu suất tổng thể có thể bị ảnh hưởng, ngay cả khi bộ xử lý có năng lực cao.

Để giải quyết vấn đề này, Google kết hợp hai chip TPU 8i hiện có vào một gói duy nhất, đồng thời nâng dung lượng bộ nhớ băng thông cao (HBM) lên 384GB. Mức dung lượng này cao hơn 33% so với mẫu trước đó.

Không chỉ tăng dung lượng, băng thông bộ nhớ của TPU 8i Max cũng được nâng lên 17,2TB mỗi giây, gấp đôi so với phiên bản trước. Đây là yếu tố quan trọng bởi băng thông quyết định tốc độ truyền dữ liệu giữa bộ nhớ và bộ xử lý.

Với cấu hình mới, TPU 8i Max hướng đến việc giảm độ trễ tính toán phát sinh trong quá trình truy xuất dữ liệu. Điều này đặc biệt có ý nghĩa khi nhiều tác nhân AI cùng lúc cần tiếp cận một lượng lớn thông tin để thực hiện nhiệm vụ.

Chẳng hạn, trong môi trường doanh nghiệp, nhiều tác nhân AI có thể đồng thời phân tích tài liệu, tìm kiếm nội dung trong email hoặc xử lý mã nguồn. Khi khối lượng yêu cầu tăng lên, khả năng cung cấp dữ liệu nhanh và liên tục trở thành yếu tố quan trọng để duy trì hiệu suất của toàn bộ hệ thống.

Mark Romayer, Phó Chủ tịch kiêm Tổng Giám đốc phụ trách Cơ sở hạ tầng Điện toán và Trí tuệ nhân tạo của Google Cloud, cho biết cấu hình mới cho phép triển khai nhiều tài nguyên điện toán hơn trong cùng một không gian trung tâm dữ liệu.

Ông sử dụng hình ảnh so sánh với giao thông để giải thích lợi ích của hệ thống: thay vì chỉ tăng tốc độ của một chiếc xe, việc mở rộng số làn đường sẽ giúp nhiều phương tiện lưu thông cùng lúc.

Cách ví von này nhấn mạnh định hướng của TPU 8i Max. Thay vì chỉ tập trung cải thiện tốc độ xử lý của một tác vụ riêng lẻ, Google muốn tăng khả năng phục vụ đồng thời nhiều yêu cầu AI trong cùng một hệ thống.

TPU 8tx lần đầu hỗ trợ điện toán bảo mật

Nếu TPU 8i Max tập trung vào dung lượng và tốc độ truy xuất bộ nhớ, TPU 8tx lại hướng đến một vấn đề khác có ý nghĩa đặc biệt đối với khách hàng doanh nghiệp: bảo mật dữ liệu.

Khi doanh nghiệp đưa những thông tin nhạy cảm vào hệ thống AI, các vấn đề về quyền riêng tư và khả năng kiểm soát dữ liệu trở nên quan trọng hơn. Những thông tin được xử lý có thể bao gồm dữ liệu nội bộ, truy vấn của người dùng doanh nghiệp và các thành phần cốt lõi của mô hình AI.

Để đáp ứng yêu cầu này, Google thiết kế TPU 8tx bằng cách kết hợp CPU máy chủ của AMD với chip TPU 8t hiện có. Điểm đáng chú ý là hệ thống lần đầu tiên hỗ trợ công nghệ điện toán bảo mật (Confidential Computing) trong một sản phẩm TPU.

Công nghệ này được thiết kế để bảo vệ dữ liệu, truy vấn và trọng số mô hình AI không chỉ khi thông tin được lưu trữ hoặc truyền đi, mà còn trong chính quá trình hệ thống đang thực hiện tính toán.

Đây là điểm khác biệt quan trọng so với cách tiếp cận bảo vệ dữ liệu chỉ tập trung vào trạng thái lưu trữ hoặc truyền tải. Trong môi trường AI doanh nghiệp, thông tin nhạy cảm vẫn có thể cần được xử lý liên tục để tạo ra kết quả. Vì vậy, khả năng bảo vệ dữ liệu ngay trong quá trình tính toán có thể giúp doanh nghiệp kiểm soát tốt hơn những rủi ro liên quan đến việc sử dụng AI.

Theo Google, TPU 8tx được thiết kế để ngay cả những người vận hành trung tâm dữ liệu cũng không thể truy cập các thông tin được bảo vệ trong quá trình xử lý.

Bên cạnh yếu tố bảo mật, Google cho biết hệ thống mới cũng được tối ưu hóa cấu trúc giao tiếp phù hợp với hoạt động suy luận AI. Nhờ đó, độ trễ phản hồi có thể giảm tới một nửa so với TPU 8t hiện có.

Điều này cho thấy TPU 8tx không chỉ bổ sung lớp bảo vệ dữ liệu mà còn hướng đến cải thiện hiệu suất vận hành. Với doanh nghiệp, một hệ thống AI có khả năng bảo vệ thông tin nhạy cảm nhưng vẫn duy trì tốc độ phản hồi tốt sẽ có ý nghĩa trong quá trình đưa AI vào những hoạt động quan trọng.

Google tận dụng chip hiện có để rút ngắn thời gian phát triển

Một điểm đáng chú ý trong chiến lược TPU mới là Google không nhất thiết phải phát triển hoàn toàn một thế hệ chip bán dẫn mới cho từng nhu cầu chuyên biệt.

Cả TPU 8i Max và TPU 8tx đều được xây dựng dựa trên những chất bán dẫn hiện có, sau đó điều chỉnh cấu hình bộ nhớ, mạng truyền thông và các chức năng bảo mật để đáp ứng mục tiêu sử dụng khác nhau.

Cách tiếp cận này có ý nghĩa trong bối cảnh quá trình thiết kế và sản xuất chip mới thường mất nhiều năm. Trong khi đó, nhu cầu của thị trường AI có thể thay đổi nhanh chóng, đặc biệt khi các doanh nghiệp liên tục mở rộng ứng dụng từ chatbot sang những hệ thống tác nhân có khả năng thực hiện nhiều công việc.

Thay vì chờ đợi một thế hệ chip hoàn toàn mới, Google lựa chọn kết hợp các chip hiện tại hoặc cải thiện những thành phần xung quanh bộ xử lý. Theo giải thích của công ty, phương pháp này cho phép giới thiệu các hệ thống chuyên dụng trong vòng vài tháng.

Đây cũng là cách để Google linh hoạt hơn trong việc đáp ứng những yêu cầu khác nhau của khách hàng. Một số doanh nghiệp cần năng lực xử lý dữ liệu lớn, trong khi những doanh nghiệp khác ưu tiên bảo mật hoặc giảm độ trễ khi vận hành các ứng dụng AI.

Việc phát triển các cấu hình TPU riêng biệt giúp Google có thể hướng đến nhiều nhóm nhu cầu mà không phải phụ thuộc hoàn toàn vào chu kỳ phát triển của một dòng chip mới.

Google muốn giảm sự phụ thuộc của doanh nghiệp vào chip NVIDIA

Việc mở rộng danh mục TPU cũng gắn liền với mục tiêu lớn hơn của Google trong thị trường hạ tầng AI doanh nghiệp.

Trước đây, Google chủ yếu sử dụng TPU trong nội bộ thay vì cung cấp rộng rãi cho khách hàng bên ngoài. Tuy nhiên, bắt đầu từ năm nay, công ty đã tăng cường hoạt động thương mại hóa dòng chip này.

Động thái đó nhằm mở rộng lựa chọn cho doanh nghiệp trong bối cảnh nhiều tổ chức đang ngày càng phụ thuộc vào chip NVIDIA để xây dựng và vận hành hạ tầng AI.

NVIDIA hiện là một trong những doanh nghiệp có vị trí quan trọng trong thị trường bộ xử lý phục vụ AI. Khi nhu cầu tính toán tăng lên, khả năng tiếp cận nguồn cung phần cứng và lựa chọn nền tảng phù hợp trở thành vấn đề đáng quan tâm đối với các doanh nghiệp.

Bằng cách đưa TPU ra thị trường bên ngoài, Google muốn tạo thêm một lựa chọn cho khách hàng đang tìm kiếm hạ tầng phục vụ huấn luyện và suy luận AI. Hai hệ thống mới cũng cho thấy công ty đang mở rộng chiến lược từ việc cung cấp năng lực tính toán đơn thuần sang những giải pháp chuyên biệt hơn về bộ nhớ và bảo mật.

Một đại diện của Google cho biết công ty hiện có khoảng 100 khách hàng sử dụng TPU, đồng thời nhấn mạnh cơ sở khách hàng đang tiếp tục mở rộng.

Con số này cho thấy TPU đã bắt đầu được triển khai bên ngoài hệ sinh thái nội bộ của Google. Tuy nhiên, việc mở rộng số lượng khách hàng mới chỉ là một phần trong quá trình cạnh tranh. Khả năng đáp ứng nhu cầu thực tế, hiệu suất hệ thống, tính bảo mật và mức độ phù hợp với hạ tầng doanh nghiệp sẽ là những yếu tố quan trọng đối với sự phát triển của dòng sản phẩm này.

Cuộc cạnh tranh hạ tầng AI chuyển sang bộ nhớ và bảo mật

Sự xuất hiện của TPU 8i Max và TPU 8tx phản ánh một thay đổi trong cách các nhà cung cấp hạ tầng tiếp cận thị trường AI.

Ở giai đoạn đầu, cuộc đua chủ yếu xoay quanh sức mạnh xử lý của chip và khả năng huấn luyện những mô hình ngày càng lớn. Tuy nhiên, khi AI được đưa vào các quy trình công việc thực tế, những yêu cầu mới bắt đầu xuất hiện.

Các tác nhân AI không chỉ trả lời câu hỏi mà còn có thể thực hiện nhiều nhiệm vụ, truy cập các nguồn dữ liệu khác nhau và phối hợp xử lý công việc. Điều này làm tăng nhu cầu về bộ nhớ, băng thông và khả năng phục vụ đồng thời.

Trong khi đó, việc đưa dữ liệu doanh nghiệp vào hệ thống AI cũng khiến bảo mật trở thành yêu cầu quan trọng. Doanh nghiệp cần biết thông tin được bảo vệ như thế nào trong suốt quá trình lưu trữ, truyền tải và tính toán.

Vì vậy, cạnh tranh trong lĩnh vực hạ tầng AI đang mở rộng vượt ra ngoài hiệu năng tính toán của riêng chất bán dẫn. Bộ nhớ, mạng truyền thông, bảo mật và hiệu quả tổng thể của hệ thống ngày càng có vai trò lớn hơn.

Với hai hệ thống mới, Google đang cho thấy định hướng phát triển TPU theo hướng chuyên biệt hóa. TPU 8i Max tập trung xử lý giới hạn về bộ nhớ khi nhiều tác nhân AI hoạt động đồng thời, trong khi TPU 8tx nhấn mạnh khả năng bảo vệ dữ liệu doanh nghiệp trong quá trình tính toán.

Việc Google ra mắt bốn hệ thống TPU trong cùng một năm, đồng thời mở rộng hoạt động cung cấp cho khách hàng bên ngoài, cho thấy công ty đang đẩy nhanh nỗ lực cạnh tranh trên thị trường hạ tầng AI.

Dù vậy, hiệu quả thương mại của chiến lược này vẫn phụ thuộc vào khả năng thu hút thêm khách hàng và đáp ứng các yêu cầu ngày càng đa dạng của doanh nghiệp. Trong bối cảnh thị trường AI tiếp tục phát triển, việc cung cấp một hệ thống vừa mạnh về tính toán, vừa có bộ nhớ lớn và bảo mật tốt có thể trở thành lợi thế quan trọng.

Việc ra mắt TPU 8i Max và TPU 8tx đánh dấu bước mở rộng đáng chú ý trong chiến lược phát triển chip AI của Google. Thay vì chỉ tập trung vào sức mạnh xử lý, công ty đang giải quyết những yêu cầu cụ thể hơn của doanh nghiệp như dung lượng bộ nhớ, tốc độ truy xuất dữ liệu và bảo mật trong quá trình tính toán. Đây cũng là bước đi nhằm đưa TPU trở thành lựa chọn cạnh tranh trên thị trường hạ tầng AI, vốn đang có sự hiện diện mạnh mẽ của NVIDIA.

Thông tin trong bài viết được tổng hợp từ nội dung công bố về các hệ thống TPU mới của Google Cloud. Bài viết mang tính chất thông tin và phân tích, không phải khuyến nghị đầu tư.

Câu hỏi thường gặp về TPU 8i Max và TPU 8tx

1. Google vừa ra mắt những hệ thống TPU nào?

Google Cloud đã công bố hai hệ thống mới là TPU 8tx và TPU 8i Max. Hai sản phẩm được phát triển để phục vụ những nhu cầu khác nhau trong thị trường AI doanh nghiệp.

2. TPU 8i Max có dung lượng bộ nhớ HBM bao nhiêu?

TPU 8i Max có dung lượng HBM 384GB, tăng 33% so với mẫu trước đó. Băng thông bộ nhớ đạt 17,2TB mỗi giây, gấp đôi phiên bản trước.

3. TPU 8i Max được thiết kế để giải quyết vấn đề gì?

Sản phẩm tập trung xử lý nút thắt cổ chai về bộ nhớ khi lượng dữ liệu AI cần truy xuất tăng lên, đặc biệt trong trường hợp nhiều tác nhân AI đồng thời xử lý tài liệu, email và mã nguồn.

4. Điểm nổi bật của TPU 8tx là gì?

TPU 8tx lần đầu hỗ trợ điện toán bảo mật trong một hệ thống TPU. Công nghệ này được thiết kế để bảo vệ dữ liệu, truy vấn và trọng số mô hình AI ngay cả khi hệ thống đang thực hiện tính toán.

5. Google sử dụng những thành phần nào để phát triển TPU 8tx?

Google kết hợp CPU máy chủ của AMD với chip TPU 8t hiện có, đồng thời bổ sung cấu hình hỗ trợ điện toán bảo mật và tối ưu hóa giao tiếp cho hoạt động suy luận.

6. Vì sao Google phát triển nhiều hệ thống TPU chuyên biệt?

Nhu cầu AI doanh nghiệp đang thay đổi nhanh chóng. Các tổ chức cần nhiều hơn sức mạnh tính toán, bao gồm bộ nhớ lớn, tốc độ truyền dữ liệu cao, khả năng bảo mật và hiệu suất khi nhiều tác nhân AI hoạt động đồng thời.

7. Google hiện có bao nhiêu khách hàng sử dụng TPU?

Theo thông tin được một đại diện Google đưa ra, công ty hiện có khoảng 100 khách hàng sử dụng TPU và cơ sở khách hàng đang mở rộng.