Học cách suy luận: Khi LLM dừng đoán chữ và bước vào kỷ nguyên Test-Time Compute
Tháng 9/2024, OpenAI công bố o1 với một câu mô tả ngắn: model này được train bằng reinforcement learning để suy luận, và nó sinh ra một chuỗi suy nghĩ nội bộ dài trước khi trả lời. Đọc qua thì giống một thông cáo sản phẩm bình thường. Nhưng có một chi tiết kỹ thuật đáng dừng lại lâu hơn phần headline: hiệu năng của o1 tăng khi bạn cho nó nghĩ lâu hơn, và cũng tăng khi bạn train nó lâu hơn. Hai trục compute hoàn toàn khác nhau, không phải một.
Đọc thêm