Các doanh nghiệp bắt đầu giới hạn lượng sử dụng AI, chú ý đến hạn mức Token của kỹ sư
Businessinsider
06-17 17:56
Ai Nổi bật
Chi phí sử dụng AI của doanh nghiệp tăng cao, một số công ty bắt đầu thiết lập hạn mức Token cho nhân viên và giới hạn quyền truy cập các mô hình giá cao.
Hữu ích
No.Trợ giúp

Cùng với việc doanh nghiệp ngày càng phụ thuộc vào công cụ AI nội bộ, chiến lược khuyến khích sử dụng nhiều đang chuyển sang kiểm soát chi phí. Nhiều doanh nghiệp bắt đầu thiết lập hạn mức Token cho nhân viên, giới hạn phạm vi sử dụng các mô hình có chi phí cao, đồng thời đánh giá lại liệu đầu tư vào AI có thực sự mang lại cải thiện hiệu quả hay không.

Giám đốc điều hành Pylon, Marty Kausas, cho biết khi quy mô nhân viên công ty gần 150 người, chi phí dịch vụ Anthropic có thể tăng lên tới 1,4 triệu USD. Trước hóa đơn tăng nhanh, công ty quyết định chấm dứt mô hình "sử dụng không giới hạn" và bắt đầu thiết lập hạn mức Token cho một số vị trí không thuộc kỹ thuật. Bộ phận tài chính hiện đang đánh giá mức hạn cụ thể.

Doanh nghiệp bắt đầu thắt chặt ngân sách AI

Trong vài tháng qua, nhiều công ty vẫn khuyến khích nhân viên sử dụng AI để nâng cao hiệu suất. Nhưng khi chi phí tiếp tục tăng, ban quản lý bắt đầu tập trung vào giới hạn ngân sách. Giám đốc điều hành OpenAI, Sam Altman, gần đây cũng đề cập rằng đầu năm, khách hàng doanh nghiệp chấp nhận chi tiêu cho AI, nhưng hiện chi phí đã trở thành vấn đề nổi bật.

Business Insider dẫn dữ liệu từ AlphaSense cho biết trong cuộc họp báo cáo tài chính quý 2 năm 2026, từ "tokens" xuất hiện 129 lần, cao hơn 57 lần của quý trước. Điều này phản ánh ban quản lý doanh nghiệp ngày càng thảo luận nhiều hơn về chi phí AI và phân bổ nguồn lực.

  • Coinbase đã thiết lập giới hạn sử dụng AI
  • Walmart cũng bắt đầu hạn chế ngân sách liên quan
  • Amazon đóng bảng xếp hạng Token nội bộ

Chi tiêu bình quân đầu người tiếp tục tăng

Chỉ số AI Index của Ramp cho thấy, chi tiêu AI bình quân đầu người của các công ty công nghệ và truyền thông trong tháng 5 là 66,29 USD, cao hơn 58,84 USD của tháng 4. Kinh tế trưởng Ramp, Ara Kharazian, cho rằng chỉ số này vẫn có thể tiếp tục tăng, nhưng doanh nghiệp đã có dấu hiệu thắt chặt, ví dụ như sử dụng nhiều bộ định tuyến mô hình hơn để kiểm soát chi phí gọi API.

Cũng có công ty không cắt giảm ngân sách trực tiếp nhưng bắt đầu đánh giá lại tỷ lệ đầu tư giữa "nhân lực và Token". Công ty khởi nghiệp AI MindFort do Y Combinator hỗ trợ chỉ có 6 nhân viên, CEO Brandon Veiseh cho biết nếu không có AI, công ty có thể cần khoảng 20 người để đạt quy mô hiện tại.

Công ty phần mềm doanh nghiệp Pega thì thận trọng với cách sử dụng tiêu tốn cao từ sớm. Công ty không công bố hạn mức Token cố định nhưng sẽ giới hạn các yêu cầu vượt mức. Ban quản lý cho rằng chỉ theo đuổi lượng gọi API cao hơn không nhất thiết mang lại kết quả kinh doanh tốt hơn.

Kỹ sư bắt đầu quan tâm đến hạn mức

Khi hệ thống hạn mức xuất hiện, kỹ sư cũng nhạy cảm hơn với khả năng tiếp cận tài nguyên AI. Bài báo đề cập ứng viên đã bắt đầu hỏi trong phỏng vấn về ngân sách mô hình, cấp độ mô hình được phép sử dụng, cũng như công ty có hợp tác với phòng thí nghiệm AI nào để được tiếp cận sản phẩm sớm hay không.

Giám đốc công nghệ Everlaw, Max Christoff, cho rằng có thể thiết lập hạn mức cơ bản cho kỹ sư, sau đó cho phép họ xin tăng hạn mức khi có nhu cầu rõ ràng. Cách này vừa giữ được nguồn lực cho dự án quan trọng, vừa giảm lãng phí không hiệu quả.

Nhà sáng lập Larridin, Russ Franklin, dự đoán dù doanh nghiệp không trực tiếp thiết lập hạn mức Token, họ cũng sẽ giới hạn quyền sử dụng mô hình cao cấp. Mô hình đắt tiền và mạnh hơn có thể chỉ được mở cho một số vị trí cốt lõi trong tương lai.

Bài báo cho rằng sự thay đổi này có thể ảnh hưởng đến sức cạnh tranh nghề nghiệp của kỹ sư. Nếu nhân viên lâu dài không được tiếp cận mô hình tiên tiến, kỹ năng tích lũy và vị trí trên thị trường việc làm có thể bị ảnh hưởng. Với doanh nghiệp, làm thế nào cân bằng giữa kiểm soát chi phí và duy trì sức hút nhân tài đang trở thành vấn đề thực tế trong giai đoạn triển khai AI mới.

Tip
$0
Thích
0
Lưu
0
Lượt xem 1
HQYC khuyến cáo độc giả nhìn nhận blockchain một cách hợp lý, nâng cao nhận thức rủi ro, cảnh giác với việc phát hành và đầu cơ token ảo. Tất cả nội dung trên trang chỉ là thông tin thị trường hoặc quan điểm liên quan, không phải lời khuyên đầu tư. Nếu phát hiện nội dung nhạy cảm, vui lòng nhấp“Báo cáo”,chúng tôi sẽ xử lý kịp thời。
Gửi
Bình luận 0
Nổi bật
Mới nhất
Chưa có bình luận. Hãy là người đầu tiên!
Liên quan