Giải phápVibe coding
Mỗi prompt, một ứng dụng đang chạy
Agent của bạn xây dựng mỗi ứng dụng trong một sandbox, kèm liên kết để xem trước, rồi phát hành nó thành một Khối ngủ cho đến khi có người mở.
from glac import Glac, AGENTS
glac = Glac()
sbx = glac.sandboxes.create(image=AGENTS, env=model_keys)
sbx.agent("claude").run("Make a todo app on port 3000")
print(sbx.url(3000)) # preview: a link to the port
image = "ghcr.io/you/todo:1" # what your build pushed
app = glac.cube.deploy(image, name="todo", port=3000)
print(app.url) # its own HTTPS address
app.rollback(1) # back a version in one callMỗi ứng dụng tốn hai máy
Mỗi ứng dụng cần một máy để xây dựng và một máy để chạy, mỗi máy đều tốn tiền cả tháng nếu cứ để chạy. Ở đây cả hai đều ngủ: sandbox khi agent dừng, Khối giữa các yêu cầu.
Xây dựng trong sandbox, phát hành thành Khối
Agent làm việc trong một sandbox, với liên kết tới dev server và một bản fork cho mỗi lần thử. Thứ nó phát hành là một image, được triển khai thành một Khối tại địa chỉ riêng, với các instance thức dậy khi có yêu cầu.
Sản phẩm của bạn nhận được gì
Xây dựng trong sandbox: terminal, liên kết tới dev server, một bản fork cho mỗi lần thử.
Một ổ đĩa cho cơ sở dữ liệu, tính phí theo dữ liệu nó chứa.
Phát hành thành Khối: mỗi lần triển khai là một phiên bản, tại địa chỉ của nó hoặc tên miền của khách hàng.
Ngủ cho đến khi có người mở: ứng dụng ngủ khi hết yêu cầu, và thức dậy với nguyên bộ nhớ.
Mỗi người dùng cuối một instance, chọn theo khóa trong yêu cầu.
Mức sử dụng theo từng khách hàng, đọc theo nhãn của họ, với giới hạn chi tiêu hằng tháng.
Hình minh họa
Đo thực tế, không phải hứa hẹn
Trung vị trên máy chủ vật lý khi không có gì khác chạy: trường hợp tốt nhất, và chúng tôi nói rõ như vậy. Instance của Khối cùng loại với sandbox. Cách chúng tôi đo
- để đánh thức một instance đang ngủ2
- 3.5 ms
- cho lệnh gọi đã đánh thức nó, từ lúc gửi đến lúc được trả lời2
- 6.7 ms
- để đưa nó vào trạng thái ngủ, cùng bộ nhớ và tiến trình2
- 2.3 ms
Khi dịch vụ mở, bạn có thể tự kiểm chứng trên các ứng dụng của mình: dòng log của yêu cầu nào đã đánh thức instance sẽ cho biết việc đánh thức mất bao lâu.
glac cube logs todo -f
# one line a request; one that woke an instance says how long it tookCác sản phẩm được dùng
- SandboxMột máy tính riêng cho mỗi agentNơi agent xây dựng và xem trước, một bản fork cho mỗi lần thử.
- KhốiBiến mọi container image thành ứng dụng ngủ giữa các yêu cầuNơi mỗi ứng dụng chạy sau khi phát hành, tại địa chỉ riêng, ngủ giữa các yêu cầu.
- Ổ đĩaĐĩa của Khối, tồn tại lâu hơn instance của chúngMột đĩa cho cơ sở dữ liệu riêng của ứng dụng.
- Postgres phi máy chủSắp cóPostgres ngủ khi nhàn rỗi và thức dậy khi có kết nốiPostgres được quản lý cho các ứng dụng, ngủ khi nhàn rỗi, khi sản phẩm này ra mắt.
Tính thử một tháng
Một nghìn ứng dụng được tạo và chạy trong một tháng, theo giá niêm yết. Tự ước tính chi phí của bạn
Kịch bản sử dụng
- 1 000 ứng dụng, mỗi ứng dụng được agent xây dựng trong một sandbox 2 vCPU và 4 GiB trong nửa giờ, CPU bận một phần năm thời gian, dùng 2 GiB; sandbox bị xóa sau đó.
- Sau đó mỗi ứng dụng là một Khối trả lời 30 000 yêu cầu trong tháng, mỗi yêu cầu 20 ms CPU, dùng 256 MiB, mỗi phản hồi 20 KB.
- Yêu cầu đến ngẫu nhiên; instance thức khi trả lời, rồi tạm dừng trong bộ nhớ 10 phút trước khi ngủ.
Chi phí một tháng theo giá niêm yết
- CPU1.38 tỷ mili giây CPU × $0.01 / triệu$13.81
- Bộ nhớ180 827 GiB-giờ × $0.008$1,446.61
- Yêu cầu30 triệu × $0.30 / triệu$9.00
- Lưu lượng ra600 GB × $0.004$2.40
Trên gói Trả phí, tháng này hết $1,468.82: phí $5, cộng $1,463.82 cho phần vượt lượng đi kèm, trừ vào số dư theo cùng mức giá.
Phát hành ứng dụng đầu tiên
Một khóa, rồi một image được triển khai thành Khối bằng một lệnh, hoặc một sandbox để agent của bạn xây dựng.