Quay lại danh sách
📄Nghiên cứu

When Interfaces Speak: Data-Aware Generative UI Harness for Active Interaction

Li X. et al.
2026-10-08

Giới thiệu

Bài báo vào tháng 10 năm 2026 kết hợp việc thực thi công cụ cơ sở dữ liệu với việc tạo giao diện frontend dành riêng cho tác vụ. GenUI-Harness bổ sung các chuỗi tương tác thử trong môi trường sandbox và việc kiểm tra phần thưởng, trong khi UI-TAU Bench kiểm thử liệu các giao diện được tạo có giúp AI agent thu thập đầu vào và hoàn thành tác vụ dựa trên cơ sở dữ liệu trong mười lĩnh vực hay không.

Tóm tắt

Điểm mới đáng chú ý của GenUI-Harness:

1. Vòng lặp tương tác dựa trên dữ liệu thực: Tách việc truy xuất và thực thi khỏi các thành phần điều khiển được tạo để làm rõ yêu cầu và thu thập đầu vào có cấu trúc
2. Đánh giá có thể thực thi: UI-TAU Bench cung cấp tập Lite gồm 300 tác vụ và tập Full gồm 1,000 tác vụ; các phép so sánh chính được báo cáo sử dụng Lite
3. Bằng chứng về huấn luyện và tương tác: Một mô hình 4B đã qua huấn luyện đạt 58% Pass@3; một nghiên cứu với người đánh giá trên 100 tác vụ được chọn ghi nhận số vòng đối thoại giảm từ 3.4 xuống 1.2
4. Giới hạn đánh giá: Bộ mô phỏng người dùng trình duyệt có thể xem mã nguồn và mục tiêu tham chiếu, còn phép so sánh với người đánh giá chỉ chọn các giao diện có thể sử dụng ổn định; kết quả không chứng minh khả năng sử dụng nói chung

Thẻ

generative-uidata-grounded-uiui-tau-benchreinforcement-learninginteractive-agents

Bài viết liên quan

📄Nghiên cứu

ControlAnything: Generative UI và kết nối thiết bị theo yêu cầu trong thực tế hỗn hợp

Bản preprint tháng 11 năm 2026 tạo cả thành phần điều khiển trong không gian lẫn mã kết nối thiết bị vật lý khi người đeo Quest 3 đưa ra yêu cầu. AI agent lập trình kiểm tra kết nối qua các kênh MIDI, Bluetooth và thao tác phím được viết sẵn, rồi trả về thành phần điều khiển AR, chương trình tương tác bàn tay chạy theo từng khung hình, hoặc cả hai.

generative-uimixed-realitydevice-integration
bởi Bektur Ryskeldiev · 2026-11-05
Đọc thêm
📄Nghiên cứu

Interface Quilt: Modifying Applications with Computer Use Agents and Generative UI

Bản preprint vào tháng 11 năm 2026 của Autodesk Research kết hợp AI agent sử dụng máy tính với GenUI để tạo các bản vá giao diện tồn tại lâu dài trên ứng dụng hiện có. Hệ thống nhận diện lại các thành phần điều khiển từ pixel đã kết xuất, tạo các bề mặt tương tác mới và đồng bộ chúng với ứng dụng bên dưới mà không cần mã nguồn, API hay dữ liệu hỗ trợ tiếp cận.

generative-uicomputer-use-agentsinterface-patches
bởi Qiu L. et al. · 2026-11-01
Đọc thêm
📄Nghiên cứu

ABRA: Agent-Bound UI for Human-Agent Communication beyond Chat with Reusable Views

Bản trình diễn hệ thống tại EMNLP vào tháng 10 năm 2026, tách các chế độ xem đồ thị, bảng, văn bản và nội dung hiển thị có thể tái sử dụng khỏi ý nghĩa tương tác dành riêng cho từng tác vụ. ABRA công bố các liên kết này dưới dạng trạng thái canvas dùng chung để người dùng và các AI agent khác có thể kiểm tra và gọi những hành động dành riêng cho tác vụ.

generative-uishared-canvasesinteraction-semantics
bởi Kim S. G. and Kim H. · 2026-10-22
Đọc thêm

Tổng hợp tài nguyên chọn lọc về Generative UI và Intelligent UI.

Được xây dựng với ❤️ bởi cộng đồng