Quay lại danh sách
📄Nghiên cứu

ControlAnything: Generative UI và kết nối thiết bị theo yêu cầu trong thực tế hỗn hợp

Bektur Ryskeldiev
2026-11-05

Giới thiệu

Bản preprint tháng 11 năm 2026 tạo cả thành phần điều khiển trong không gian lẫn mã kết nối thiết bị vật lý khi người đeo Quest 3 đưa ra yêu cầu. AI agent lập trình kiểm tra kết nối qua các kênh MIDI, Bluetooth và thao tác phím được viết sẵn, rồi trả về thành phần điều khiển AR, chương trình tương tác bàn tay chạy theo từng khung hình, hoặc cả hai.

Tóm tắt

Tạo cả giao diện điều khiển và mã kết nối:

1. Liên kết đầu ra rõ ràng: Các thành phần điều khiển được tạo gọi những hành động do chương trình kết nối thiết bị đang chạy khai báo
2. Tương tác cục bộ: Chương trình bàn tay chạy theo từng khung hình mà không gọi thêm mô hình; các bước kiểm tra khi chạy giới hạn đầu ra
3. Đo thời gian chuẩn bị: Trong một phiên do chính tác giả vận hành, chín trong mười yêu cầu đạt trạng thái sẵn sàng; thời gian trung vị là 32,5 giây, không tính chuyển giọng nói thành văn bản
4. Giới hạn nghiên cứu: Trạng thái sẵn sàng chỉ xác nhận kênh truyền đã nhận lệnh, chưa đo tác động vật lý; thử nghiệm dựa vào kiến thức thiết bị có sẵn và các kênh truyền đã chuẩn bị, còn chương trình kết nối trên máy tính không được cách ly bằng sandbox

[Mã nguồn, trình mô phỏng và bản ghi minh họa của tác giả](https://github.com/Apolotary/controlanything).

Thẻ

generative-uimixed-realitydevice-integrationhand-trackingruntime-ui

Bài viết liên quan

📄Nghiên cứu

Interface Quilt: Modifying Applications with Computer Use Agents and Generative UI

Bản preprint vào tháng 11 năm 2026 của Autodesk Research kết hợp AI agent sử dụng máy tính với GenUI để tạo các bản vá giao diện tồn tại lâu dài trên ứng dụng hiện có. Hệ thống nhận diện lại các thành phần điều khiển từ pixel đã kết xuất, tạo các bề mặt tương tác mới và đồng bộ chúng với ứng dụng bên dưới mà không cần mã nguồn, API hay dữ liệu hỗ trợ tiếp cận.

generative-uicomputer-use-agentsinterface-patches
bởi Qiu L. et al. · 2026-11-01
Đọc thêm
📄Nghiên cứu

ABRA: Agent-Bound UI for Human-Agent Communication beyond Chat with Reusable Views

Bản trình diễn hệ thống tại EMNLP vào tháng 10 năm 2026, tách các chế độ xem đồ thị, bảng, văn bản và nội dung hiển thị có thể tái sử dụng khỏi ý nghĩa tương tác dành riêng cho từng tác vụ. ABRA công bố các liên kết này dưới dạng trạng thái canvas dùng chung để người dùng và các AI agent khác có thể kiểm tra và gọi những hành động dành riêng cho tác vụ.

generative-uishared-canvasesinteraction-semantics
bởi Kim S. G. and Kim H. · 2026-10-22
Đọc thêm
📄Nghiên cứu

Inflak: A Unified Orchestration Architecture for Human-Agent Interaction

Bài báo vào tháng 10 năm 2026 tách tương tác giữa con người và AI agent khi ứng dụng đang chạy thành các lớp định tuyến, lập kế hoạch, thiết kế và kết xuất. Inflak triển khai các lớp này dưới dạng kỹ năng của AI agent có thể kết hợp với nhau, để trạng thái tác vụ quyết định thời điểm yêu cầu đầu vào và giao diện được tạo nào sẽ xuất hiện.

generative-uiinteraction-orchestrationagent-skills
bởi Gao L. et al. · 2026-10-15
Đọc thêm

Tổng hợp tài nguyên chọn lọc về Generative UI và Intelligent UI.

Được xây dựng với ❤️ bởi cộng đồng