Chip suy luận Jalapeño của OpenAI được báo cáo vượt Blackwell của Nvidia trong các bài đo hiệu năng

Tóm tắt AI

OpenAI đã công bố chi tiết Jalapeño, một ASIC tùy biến hợp tác với Broadcom dành cho suy luận LLM, sau quá trình tape-out bắt đầu từ giữa năm 2024. Theo các kết quả benchmark do nguồn tin công bố, chip này vượt qua phần cứng của Nvidia, AMD và Google ở nhiều chỉ số suy luận, đặc biệt là hiệu năng trên mỗi watt, đồng thời vẫn là một thiết kế suy luận đa dụng thay vì tăng tốc riêng cho một mô hình cụ thể.