Khám phá bên trong tâm trí của Mô hình ngôn ngữ lớn: Trực quan hóa quá trình hình thành câu theo thời gian thực

—

Nhà khoa học dữ liệu Santiago Ortiz đã tạo ra một hình ảnh trực quan cuốn hút về cách Mô hình ngôn ngữ lớn xây dựng câu từng bước. Bằng cách dùng lời nhắc “Trí tuệ là” và thiết lập nhiệt độ cao 1,6 để tạo ra các phản hồi đa dạng, Ortiz đã chạy hàng trăm lần lặp để lập bản đồ quá trình tư duy của AI.

Để dữ liệu phức tạp trở nên dễ hiểu, Ortiz sử dụng Phân tích thành phần chính (PCA) để giảm các embedding từ 1.536 chiều xuống không gian 3D, cho thấy phản hồi diễn ra từng từ.

Dự án có hai hình ảnh trực quan liên kết với nhau:

• Một khối lập phương 3D với các nhánh đường đi thể hiện sự phát triển của các chuỗi văn bản.

• Một sơ đồ cây làm nổi bật xác suất của từng từ cho mỗi đường đi.

Bằng cách rê chuột qua các điểm, người dùng có thể quan sát các quỹ đạo câu cụ thể, qua đó hé lộ các mô hình ra quyết định của LLM theo thời gian thực.

Trải nghiệm dự án và có được góc nhìn độc đáo về quá trình tư duy của AI tại Moebio’s Mind.


Comments

Leave a Reply

Your email address will not be published. Required fields are marked *