Quay lại danh sách
📄Nghiên cứu

MV-Bench: Benchmarking MLLMs for Coordinated Multi-View Interface Construction

Zhao Y. et al.
2026-07

Giới thiệu

Bộ đánh giá vào tháng 7 năm 2026 kiểm thử liệu các mô hình ngôn ngữ đa phương thức có thể tạo giao diện trực quan hóa nhiều chế độ xem có thể thực thi từ thiết kế thị giác hay không. MV-Bench sử dụng các sổ làm việc Tableau làm dữ liệu chuẩn có cấu trúc và đánh giá độ trung thực thị giác, liên kết dữ liệu, tương tác có phối hợp cùng khả năng thực thi mã.

Tóm tắt

Điểm mới đáng chú ý của MV-Bench:

1. Vượt ra ngoài diện mạo của một màn hình: Kiểm thử các bảng điều khiển phối hợp với nhiều chế độ xem được liên kết
2. Bộ đánh giá có thể thực thi: Cung cấp 1,048 trường hợp đã được xác minh cùng mã nguồn, giao diện đã kết xuất, bộ dữ liệu và chú giải tương tác
3. Dữ liệu chuẩn có cấu trúc: Rút ra liên kết và tương tác từ 92 sổ làm việc Tableau
4. Đánh giá ngữ nghĩa: Đo độ chính xác dữ liệu và tính đầy đủ của tương tác bên cạnh độ trung thực thị giác
5. Khoảng cách năng lực đáng kể: Mô hình mạnh nhất được kiểm thử đạt độ chính xác bố cục 75.45% nhưng chỉ đạt độ chính xác liên kết dữ liệu 21.71% và độ chính xác tương tác 11.68%

Thẻ

ui-generationmultimodal-modelsdata-visualizationinteractionbenchmark

Bài viết liên quan

📄Nghiên cứu

ControlAnything: Generative UI và kết nối thiết bị theo yêu cầu trong thực tế hỗn hợp

Bản preprint tháng 11 năm 2026 tạo cả thành phần điều khiển trong không gian lẫn mã kết nối thiết bị vật lý khi người đeo Quest 3 đưa ra yêu cầu. AI agent lập trình kiểm tra kết nối qua các kênh MIDI, Bluetooth và thao tác phím được viết sẵn, rồi trả về thành phần điều khiển AR, chương trình tương tác bàn tay chạy theo từng khung hình, hoặc cả hai.

generative-uimixed-realitydevice-integration
bởi Bektur Ryskeldiev · 2026-11-05
Đọc thêm
📄Nghiên cứu

Interface Quilt: Modifying Applications with Computer Use Agents and Generative UI

Bản preprint vào tháng 11 năm 2026 của Autodesk Research kết hợp AI agent sử dụng máy tính với GenUI để tạo các bản vá giao diện tồn tại lâu dài trên ứng dụng hiện có. Hệ thống nhận diện lại các thành phần điều khiển từ pixel đã kết xuất, tạo các bề mặt tương tác mới và đồng bộ chúng với ứng dụng bên dưới mà không cần mã nguồn, API hay dữ liệu hỗ trợ tiếp cận.

generative-uicomputer-use-agentsinterface-patches
bởi Qiu L. et al. · 2026-11-01
Đọc thêm
📄Nghiên cứu

ABRA: Agent-Bound UI for Human-Agent Communication beyond Chat with Reusable Views

Bản trình diễn hệ thống tại EMNLP vào tháng 10 năm 2026, tách các chế độ xem đồ thị, bảng, văn bản và nội dung hiển thị có thể tái sử dụng khỏi ý nghĩa tương tác dành riêng cho từng tác vụ. ABRA công bố các liên kết này dưới dạng trạng thái canvas dùng chung để người dùng và các AI agent khác có thể kiểm tra và gọi những hành động dành riêng cho tác vụ.

generative-uishared-canvasesinteraction-semantics
bởi Kim S. G. and Kim H. · 2026-10-22
Đọc thêm

Tổng hợp tài nguyên chọn lọc về Generative UI và Intelligent UI.

Được xây dựng với ❤️ bởi cộng đồng