목록으로
📄논문

When Interfaces Speak: Data-Aware Generative UI Harness for Active Interaction

Li X. et al.
2026-10-08

소개

데이터베이스 도구 실행과 작업별 프론트엔드 생성을 결합하는 2026년 10월 논문입니다. GenUI-Harness는 샌드박스 환경의 상호작용 롤아웃과 보상 감사를 추가합니다. UI-TAU Bench는 10개 도메인에서 생성된 인터페이스가 에이전트의 입력 수집과 데이터베이스 기반 작업 완료에 도움이 되는지 평가합니다.

요약

GenUI-Harness가 새롭게 보여주는 점:

1. 데이터에 근거한 상호작용 루프: 검색·실행을, 요청을 명확히 하고 구조화된 입력을 수집하는 생성형 컨트롤과 분리합니다
2. 실행 가능한 평가: UI-TAU Bench는 300개 작업의 Lite와 1,000개 작업의 Full 분할을 제공하며, 보고된 주요 비교에는 Lite를 사용합니다
3. 학습과 상호작용에 관한 근거: 학습된 4B 모델은 58% Pass@3를 달성합니다. 선별된 100개 작업에 대한 평가자 연구에서는 대화 횟수가 3.4회에서 1.2회로 줄었습니다
4. 평가의 한계: 브라우저 사용자 시뮬레이터는 소스 코드와 참조 목표를 볼 수 있으며, 평가자 비교에서는 일관되게 사용할 수 있는 인터페이스를 선별합니다. 이 결과만으로 일반적인 사용성을 입증할 수는 없습니다

태그

generative-uidata-grounded-uiui-tau-benchreinforcement-learninginteractive-agents

관련 글

📄논문

ControlAnything: Generative UI and On-Demand Device Integration in Mixed Reality

November 2026 preprint generating both spatial controls and the connector code for physical devices when a Quest 3 wearer requests them. A coding agent tests connections over hand-written MIDI, Bluetooth, and key-press transports, then returns AR widgets, a per-frame hand program, or both.

generative-uimixed-realitydevice-integration
작성자 Bektur Ryskeldiev · 2026-11-05
자세히 보기
📄논문

Interface Quilt: Modifying Applications with Computer Use Agents and Generative UI

November 2026 preprint from Autodesk Research combining computer-use agents and GenUI to build persistent interface patches over existing applications. It recovers controls from rendered pixels, generates new interaction surfaces, and synchronizes them with the underlying app without requiring source code, APIs, or accessibility data.

generative-uicomputer-use-agentsinterface-patches
작성자 Qiu L. et al. · 2026-11-01
자세히 보기
📄논문

ABRA: Agent-Bound UI for Human-Agent Communication beyond Chat with Reusable Views

재사용 가능한 그래프·표·텍스트·표시 뷰와 작업별 상호작용 의미를 분리하는 2026년 10월 EMNLP 시스템 데모입니다. ABRA는 이러한 바인딩을 공유 캔버스 상태로 공개하여 사용자와 다른 에이전트가 작업별 동작을 확인하고 호출할 수 있게 합니다.

generative-uishared-canvasesinteraction-semantics
작성자 Kim S. G. and Kim H. · 2026-10-22
자세히 보기

Generative UI와 Intelligent UI 리소스를 엄선한 모음입니다.

정성을 담아 ❤️ 커뮤니티가 만들었습니다