Quay lại danh sách
📄Nghiên cứu

SchemaGUI: A Schema-Driven Benchmark for Controllable GUI Generation

Dong J. et al.
2026-08

Giới thiệu

Bộ đánh giá vào tháng 8 năm 2026 dùng các chú giải tất định thay cho nhãn do con người gán có nhiều nhiễu để đánh giá giao diện do LLM tạo ra. SchemaGUI tổng hợp chỉ dẫn song ngữ và các lời gọi hàm tham chiếu từ lược đồ UI được tham số hóa, sau đó đo tính khả thi, hình học và độ phức tạp bố cục trên sáu kịch bản và năm mô hình.

Tóm tắt

Điểm mới đáng chú ý của SchemaGUI:

1. Đánh giá tất định: Tạo chính xác các lời gọi hàm tham chiếu từ lược đồ giao diện thay vì dựa vào nhãn ảnh chụp màn hình mang tính chủ quan
2. Bao phủ song ngữ: Đánh giá 1,000 trường hợp cho mỗi kịch bản và ngôn ngữ trên sáu tác vụ GUI tiêu biểu bằng tiếng Anh và tiếng Trung
3. Tách biệt các chiều năng lực: Chấm điểm tính khả thi của lược đồ, khả năng kiểm soát hình học và chất lượng GUI tổng thể thay vì gộp thành một thước đo thị giác
4. Chỉ ra điểm nghẽn về không gian: Cho thấy việc tăng quy mô mô hình cải thiện cấu trúc hợp lệ nhanh hơn độ chính xác tọa độ, đặc biệt trong lưới dày đặc và bố cục nhiều vùng
5. Phát hiện hữu ích về suy luận: Báo cáo rằng chế độ suy nghĩ tiêu thụ nhiều token hơn nhưng nhìn chung làm giảm điểm GUI, đặc biệt với các mô hình nhỏ hơn

Thẻ

ui-generationbenchmarkschema-drivenspatial-reasoningbilingual

Bài viết liên quan

📄Nghiên cứu

ControlAnything: Generative UI và kết nối thiết bị theo yêu cầu trong thực tế hỗn hợp

Bản preprint tháng 11 năm 2026 tạo cả thành phần điều khiển trong không gian lẫn mã kết nối thiết bị vật lý khi người đeo Quest 3 đưa ra yêu cầu. AI agent lập trình kiểm tra kết nối qua các kênh MIDI, Bluetooth và thao tác phím được viết sẵn, rồi trả về thành phần điều khiển AR, chương trình tương tác bàn tay chạy theo từng khung hình, hoặc cả hai.

generative-uimixed-realitydevice-integration
bởi Bektur Ryskeldiev · 2026-11-05
Đọc thêm
📄Nghiên cứu

Interface Quilt: Modifying Applications with Computer Use Agents and Generative UI

Bản preprint vào tháng 11 năm 2026 của Autodesk Research kết hợp AI agent sử dụng máy tính với GenUI để tạo các bản vá giao diện tồn tại lâu dài trên ứng dụng hiện có. Hệ thống nhận diện lại các thành phần điều khiển từ pixel đã kết xuất, tạo các bề mặt tương tác mới và đồng bộ chúng với ứng dụng bên dưới mà không cần mã nguồn, API hay dữ liệu hỗ trợ tiếp cận.

generative-uicomputer-use-agentsinterface-patches
bởi Qiu L. et al. · 2026-11-01
Đọc thêm
📄Nghiên cứu

ABRA: Agent-Bound UI for Human-Agent Communication beyond Chat with Reusable Views

Bản trình diễn hệ thống tại EMNLP vào tháng 10 năm 2026, tách các chế độ xem đồ thị, bảng, văn bản và nội dung hiển thị có thể tái sử dụng khỏi ý nghĩa tương tác dành riêng cho từng tác vụ. ABRA công bố các liên kết này dưới dạng trạng thái canvas dùng chung để người dùng và các AI agent khác có thể kiểm tra và gọi những hành động dành riêng cho tác vụ.

generative-uishared-canvasesinteraction-semantics
bởi Kim S. G. and Kim H. · 2026-10-22
Đọc thêm

Tổng hợp tài nguyên chọn lọc về Generative UI và Intelligent UI.

Được xây dựng với ❤️ bởi cộng đồng