Phần lớn các giám đốc điều hành trong một cuộc khảo sát gần đây, 76%, nói rằng cơ sở hạ tầng hiện tại của họ chưa sẵn sàng để đáp ứng nhu cầu sắp tới — hay còn gọi là AI và khối lượng công việc phân tích liên quan.
Nếu bạn đang xem xét việc chuyển nhóm hoặc tổ chức của mình sang trí tuệ nhân tạo một cách quy mô lớn, bạn có thể cần kiểm tra và chuẩn bị đầu tư vào cơ sở hạ tầng bên dưới — dung lượng dữ liệu, khả năng xử lý, công cụ và các tài nguyên liên quan.
Trong khi thế giới vướng vào các cuộc tranh luận về hiệu quả và rủi ro của trí tuệ nhân tạo, thì vấn đề hỗ trợ cơ sở hạ tầng lại không được quan tâm đúng mức. Có vẻ như nhiều hệ thống hiện tại có thể chưa sẵn sàng để xử lý khối lượng công việc AI.
Phần lớn các giám đốc điều hành trong một cuộc khảo sát gần đây, 76%, cảm thấy cơ sở hạ tầng hiện tại của họ “sẽ không thể mở rộng quy mô để đáp ứng nhu cầu sắp tới” — hay còn gọi là AI và khối lượng công việc phân tích liên quan. Ngoài ra, cuộc khảo sát với 1.288 giám đốc điều hành do Hitachi Vantara thực hiện cũng cho thấy 60% báo cáo rằng họ chỉ đơn giản là bị “choáng ngợp” bởi lượng dữ liệu họ quản lý. Các tác giả của báo cáo dự đoán đến năm 2025, các tổ chức lớn sẽ lưu trữ hơn 65 petabyte dữ liệu. (Cách đây không lâu, một terabyte là một tải trọng lớn.)
Dữ liệu của Hitachi phản ánh kết quả từ Viện cơ sở hạ tầng AI (AIII), cho thấy chỉ 26% nhóm “rất hài lòng” với cơ sở hạ tầng AI/ML hiện tại của họ. Tất nhiên, các công ty công nghệ lớn có ngân sách, đội ngũ nhân viên và năng lực khổng lồ để biến AI thành hiện thực. Các nhóm trong các công ty này “đã xây dựng cơ sở hạ tầng AI/ML của riêng họ từ đầu vì không có gì trên thị trường hỗ trợ những nỗ lực của họ”, các tác giả báo cáo của AIII nêu rõ.
Họ nói thêm rằng gần đây, “chúng tôi đã chứng kiến ​​sự phát triển nhanh chóng của các công cụ và nền tảng mới cho phép các doanh nghiệp và doanh nghiệp vừa và nhỏ hưởng lợi từ cuộc cách mạng trí tuệ. Tuy nhiên, việc xây dựng cơ sở hạ tầng AI/ML phù hợp với nhu cầu cụ thể của công ty vẫn là một nhiệm vụ quan trọng thử thách.”
Lấy dung lượng lưu trữ thô đơn giản làm ví dụ. Khảo sát của Hitachi cho thấy nhu cầu lưu trữ dữ liệu có thể tăng gấp đôi sau hai năm. Tất cả dữ liệu đó sẽ đi đâu? Có đám mây, phải không? Giữ suy nghĩ đó, các tác giả của cuộc khảo sát thận trọng. Họ chỉ ra rằng đám mây là một phần của giải pháp, “nhưng không phải là viên đạn bạc”. Khoảng 27% khối lượng công việc của trung tâm dữ liệu sẽ ở trên các đám mây công cộng vào năm 2025 và 21% khác ở cùng vị trí. Khoảng một nửa khối lượng công việc của trung tâm dữ liệu, 49%, sẽ vẫn nằm trong các bức tường của công ty — trong các hệ thống tại chỗ truyền thống hơn hoặc trong các đám mây riêng.
Để làm mọi thứ phức tạp hơn một chút, các giám đốc điều hành CNTT ước tính rằng họ không có quyền kiểm soát hơn một nửa dữ liệu chảy qua doanh nghiệp của họ. Đây là “dữ liệu tối” được thu thập và lưu trữ, nhưng không bao giờ được sử dụng — và có thể chiếm gần một nửa tổng số dữ liệu.
Không chỉ dung lượng dữ liệu cần tăng cường — công cụ rất quan trọng. Báo cáo của AIII nhận xét: “Sự phát triển của bất kỳ nhóm AI/ML nào cũng là một hành trình và ở mỗi giai đoạn, bạn cần các công cụ khác nhau”. “Ở bất kỳ giai đoạn đầu nào, chỉ với một số nhà khoa học dữ liệu hàng đầu, nhu cầu về công cụ của bạn đơn giản hơn nhiều. Nhưng khi nhóm của bạn phát triển, bạn cần các công cụ mới hơn và tốt hơn để đối phó với sự phát triển đó. Các cân nhắc về CNTT doanh nghiệp truyền thống, chẳng hạn như dựa trên vai trò kiểm soát truy cập và bảo mật, đột nhiên trở nên quan trọng, cũng như theo dõi và bảo trì liên tục.”
Các nhu cầu bổ sung đang phát sinh cùng với sự phát triển nhanh chóng của AI là kho lưu trữ tính năng, cũng như khả năng hiển thị trong phiên bản và dòng dữ liệu. “Một số phát hiện ra phiên bản dữ liệu và dòng dõi quá muộn, sau khi quy định hoặc một lỗi công khai cho thấy nhu cầu về nó.”, Các tác giả của AIII nêu rõ. “Khi các nhóm phát triển và cạnh tranh để lập lịch trình tài nguyên nội bộ trên các GPU, điều này trở nên cần thiết. Ở mỗi giai đoạn, các công cụ bắt buộc phải có mới sẽ nhanh chóng xuất hiện.”
Các công ty công nghệ lớn “đã xây dựng các công cụ của riêng họ từ đầu vì không có gì trên thị trường đáp ứng nhu cầu của họ, nhưng cách tiếp cận đó phần lớn nằm ngoài tầm với của các doanh nghiệp khác không có đội ngũ nhà phát triển”, các tác giả của AIII cho biết. . “Nó cũng không bền vững, vì nợ kỹ thuật và bảo trì những công cụ đó nhanh chóng trở thành cơn ác mộng, ngay cả khi các công cụ thương mại bắt đầu vượt qua các hệ thống được xây dựng nội bộ bằng khả năng của chúng.”
Các nhà phân tích của AIII “hy vọng ngày càng có nhiều công ty công nghệ thay thế các bộ phận trong ngăn xếp sản xuất tại nhà của họ bằng các giải pháp thay thế nguồn mở hoặc thương mại trong 5 năm tới. Chúng tôi hy vọng rằng hầu hết các doanh nghiệp trong giai đoạn đa số ban đầu sẽ không chế tạo các công cụ của riêng họ và thay vào đó tập trung vào việc viết các công cụ nhỏ hơn để thu hẹp khoảng cách giữa các phần mô-đun của ngăn xếp.”
https://www.zdnet.com/article/ai-and-advanced-applications-may-strain-current-technology-infrastructures-to-their-limits/