trước khi chatgpt của openai xuất hiện và làm khuynh đảo thế giới với khả năng đáp ứng nhiều yêu cầu khác nhau startup nhỏ bé latitude đã gây sốt với game ai dungeon ai dungeon sử dụng ai tạo ra những câu chuyện thần tiên dù vậy khi phổ biến hơn chi phí duy trì game nhập vai này tăng vọt người chơi càng nhiều hóa đơn lattitude phải trả cho openai công ty cung cấp công nghệ ngôn ngữ gpt đứng sau game càng cao ceo nick walton còn phát hiện các nhà tiếp thị nội dung đã sử dụng ai dungeon viết bài quảng bá một tác dụng mà nhóm của ông chưa từng nghĩ đến vào cao điểm năm 2021 walton ước tính latitude chi gần 200 000 usdtháng cho phần mềm ai tạo sinh của openai và amazon web services aws để theo kịp hàng triệu truy vấn từ người dùng mỗi ngày với một startup vài trăm nghìn usdtháng cho ai là con số khổng lồ đến cuối năm 2021 latitude chuyển sang dùng phần mềm của ai21 labs rẻ hơn gpt của openai kết hợp với tích hợp mô hình ngôn ngữ miễn phí nguồn mở nhằm giảm thiểu chi phí hóa đơn ai tạo sinh của startup giảm xuống dưới 100 000 usdtháng họ cũng thu phí người dùng để bù đắp câu chuyện của latitude hé lộ phần nào thực tế không mấy màu hồng phía sau sự bùng nổ của ai tạo sinh cái giá cho sự phát triển và duy trì phần mềm vô cùng lớn cả cho doanh nghiệp phát triển công nghệ nền lẫn những ai dùng ai cho phần mềm của mình chỉ có các tên tuổi lớn như microsoft meta alphabet mới có nguồn vốn ngoại cỡ dẫn đầu cuộc chơi song việc biên lợi nhuận của các ứng dụng ai thấp hơn nhiều so với saas có thể ngăn cản đà bùng nổ hiện tại chi phí đào tạo và suy luận các mô hình ngôn ngữ lớn khác biệt so với công nghệ điện toán trước đây ngay cả khi đã phát triển hay đào tạo phần mềm vẫn cần lượng lớn năng lực điện toán để vận hành các mô hình ngôn ngữ lớn vì chúng thực hiện hàng tỷ tính toán mỗi lần trả lời một truy vấn trong khi đó cung cấp ứng dụng hay trang web nhẹ nhàng hơn nhiều các phép tính cũng cần phần cứng chuyên biệt dù chip máy tính truyền thống vẫn có thể chạy mô hình máy học tốc độ lại rất chậm hầu hết việc đào tạo và can thiệp đều diễn ra trên gpu vốn dành cho game 3 d nhưng nay đã thành tiêu chuẩn cho ứng dụng ai vì chúng có thể thực hiện nhiều phép tính đơn giản đồng thời nvidia sản xuất hầu hết gpu cho ngành công nghiệp ai con chip data center của hãng lên tới 10 000 usd đào tạo và suy luận các nhà phân tích và chuyên gia công nghệ ước tính quy trình đào tạo mô hình ngôn ngữ lớn như gpt 3 của openai mất hơn 4 triệu usd các công cụ hiện đại hơn sẽ tốn kém hơn chẳng hạn mô hình llama của meta công bố tháng trước sử dụng 2 048 gpu nvidia a100 để đào tạo 1 4 nghìn tỷ token 750 từ tương đương 1 000 token trong khoảng 21 ngày clement denlangue ceo startup huggingface cho biết quy trình đào tạo mô hình ngôn ngữ lớn bloom của họ mất hơn 2 5 tháng cần đến siêu máy tính tương đương 500 gpu những tổ chức phát triển mô hình ngôn ngữ lớn phải thận trọng khi đào tạo lại phần mềm vì rất đắt đỏ ông chia sẻ không phải lúc nào các mô hình này cũng được đào tạo chính vì vậy một số mô hình như chatgpt lại không có kiến thức về các sự kiện gần đây mà dừng lại ở năm 2021 nếu sử dụng mô hình máy học đã được đào tạo để dự đoán hay tạo văn bản kỹ sư dùng đến mô hình suy luận còn đắt hơn cả đào tạo với một sản phẩm phổ biến như chatgpt 100 triệu người dùng vào tháng 1 ước tính openai phải bỏ ra 40 triệu usd để xử lý hàng triệu truy vấn mà mọi người nạp vào trong tháng đó chi phí sẽ đội lên nhiều lần khi các công cụ này được dùng hàng tỷ lần mỗi ngày theo các chuyên gia tài chính chatbot bing ai của microsoft sử dụng mô hình chatgpt cần ít nhất 4 tỷ usd hạ tầng để phản hồi người dùng trong trường hợp của latitude dù không mất tiền đào tạo mô hình ngôn ngữ chi phí suy luận vào khoảng nửa centlần cho hàng triệu yêu cầu mỗi ngày để gieo mầm cho ai các nhà đầu tư mạo hiểm và big tech đã đầu tư hàng tỷ usd vào các startup chuyên về ai tạo sinh microsoft rót khoảng 10 tỷ usd cho openai salesforce ventures gần đây ra mắt quỹ 250 triệu usd dành riêng cho các startup trong lĩnh vực này trông chờ vào thay đổi không rõ phát triển ai có còn tốn kém không khi ngành công nghiệp tiến xa hơn các công ty làm mô hình ngôn ngữ nhà sản xuất bán dẫn và startup đều nhìn thấy cơ hội khi chi phí vận hành phần mềm ai giảm nvidia hãng nắm 95 thị phần chip ai tiếp tục phát triển những phiên bản mạnh mẽ hơn cho máy học ceo jensen huang tin rằng trong 10 năm tới ai sẽ hiệu quả hơn một triệu lần không chỉ nhờ vào cải tiến của chip mà còn do phần mềm và linh kiện máy tính khác một số startup tập trung giải quyết chi phí khi vận hành ai chẳng hạn d matrix startup này xây dựng hệ thống nhằm tiết kiệm chi phí suy luận bằng cách xử lý nhiều hơn trong bộ nhớ máy tính thay vì chỉ trên gpu theo nhà sáng lập d matrix vấn đề là mọi người sử dụng gpu để thực hiện gần như mọi suy luận và mua các hệ thống đắt tiền từ nvidia tuy nhiên khối lượng công việc tăng rất nhanh và không có cách nào mà gpu theo kịp được vì nó không được làm ra cho điều đó nó được làm ra để đào tạo tăng tốc đồ họa delangue ceo huggingface tin rằng nhiều công ty sẽ được phục vụ tốt hơn nếu tập trung vào mô hình nhỏ riêng biệt có chi phí đào tạo và vận hành thấp hơn thay vì dùng mô hình ngôn ngữ lớn trong khi đó tháng trước openai thông báo sẽ giảm giá truy cập mô hình gpt cho các doanh nghiệp chỉ còn 15 cent cho mỗi 750 từ thay đổi lớn này mang đến cơ hội cho những hãng như latitude hướng tới phục vụ người dùng tốt nhất theo cnbc