r/LocalLLaMA•4개월 전•67•19

LLM의 기본 대화 언어로 HTML을 사용해 상호작용형 콘텐츠 만들기

Use HTML as the primary chat language of your LLM's so they can make interactive content

핵심 요약

LLM 출력에 HTML을 직접 사용하여 대화창 내에서 애니메이션과 상호작용이 가능한 요소를 구현하는 실험입니다.

HTML 출력 활용 — LLM이 대화창 내에서 직접 애니메이션 및 상호작용 요소를 생성함
샌드박스 환경 — 각 출력을 iframe으로 처리하여 코드 실행의 안전성을 확보함
일회용 소프트웨어 — 향후 모델 성능 향상에 따라 일회용 소프트웨어 개발 방식이 주류가 될 것으로 전망함
성능 테스트 — Qwen3.6-27B 모델을 사용하여 초당 70토큰 속도로 원활하게 구동함

LLM의 기본 대화 언어로 HTML을 사용해 상호작용형 콘텐츠 만들기 이미지 1

며칠 전에 에이전트의 대화 출력으로 HTML을 직접 사용하는 방법에 대해 글을 올렸습니다. 많은 분이 mermaid나 graphviz로 이미 다이어그램을 그릴 수 있는데 굳이 그럴 필요가 있냐거나, 마크다운이 기술적으로는 HTML의 상위 집합(AI 에이전트와 관련된 곳에서 실제로 쓰이는 건 본 적 없지만)이라는 의견을 주셨습니다.

어쨌든, LLM이 대화창 내에서 애니메이션과 상호작용 요소를 직접 구축하는 후속 글을 올립니다. 마크다운으로는 불가능하다고 생각하거든요! 기술적으로는 매우 간단합니다. 에이전트의 각 대화 출력을 페이지 내 iframe으로 전달해서 코드를 적절히 샌드박스화했습니다.

이런 실험을 하면서 저는 확실히 '일회용 소프트웨어'라는 철학으로 기울고 있습니다. 몇 년 뒤 더 빠르고 뛰어난 모델이 나오면 이렇게 하지 않을 이유가 없죠. 지금 당장 제 듀얼 3090 장비에서 Qwen3.6-27B 모델로 초당 약 70토큰 정도 나오는데, 이 정도면 꽤 괜찮습니다.

원문

커뮤니티 목록

r/LocalLLaMA•4개월 전•67•19

LLM의 기본 대화 언어로 HTML을 사용해 상호작용형 콘텐츠 만들기

Use HTML as the primary chat language of your LLM's so they can make interactive content

핵심 요약

LLM 출력에 HTML을 직접 사용하여 대화창 내에서 애니메이션과 상호작용이 가능한 요소를 구현하는 실험입니다.

HTML 출력 활용 — LLM이 대화창 내에서 직접 애니메이션 및 상호작용 요소를 생성함
샌드박스 환경 — 각 출력을 iframe으로 처리하여 코드 실행의 안전성을 확보함
일회용 소프트웨어 — 향후 모델 성능 향상에 따라 일회용 소프트웨어 개발 방식이 주류가 될 것으로 전망함
성능 테스트 — Qwen3.6-27B 모델을 사용하여 초당 70토큰 속도로 원활하게 구동함

영상 보기

주요 댓글

r/localllama

LLM의 HTML 출력 활용에 대해 기술적으로 유용하다는 긍정적인 반응과 함께, UX 및 성능, 오케스트레이션 측면에서의 우려와 보완책이 논의되고 있습니다.

저는 여전히 이게 사람한테 노래로 설명하라고 시키는 거랑 비슷하다고 봅니다. 전달력은 더 좋을지 몰라도, 특정 작업을 수행할 때 뇌의 잘못된 부분을 쓰게 만드는 거죠. 저도 Qwen 모델로 HTML 출력을 테스트해 봤는데, 추론 능력은 떨어지고 텍스트 출력은 늘어나며 환각 현상도 더 심해졌습니다. 생성형 UI가 쓸모없다는 건 아니지만, 저는 그걸 하위 에이전트에게 맡길 겁니다. 실행 에이전트는 제약 없이 마크다운 같은 걸 생성하게 두고, 시각화는 따로 처리하세요.

제가 어떤 모델을 쓰든 GUI 지향 도구를 만들 때, 브라우저를 렌더러로 쓰는 게 GUI를 직접 구축하는 것보다 훨씬 깔끔한 경험이었습니다. 웹 디자인에 엄청난 노력이 들어가고 그만큼 학습 데이터도 방대해서 그런 것 같아요.

그래서 에이전트 상호작용에서 오케스트레이션이 필요한 거임. 플래너/라우터/트리아지 에이전트가 OP의 프롬프트 같은 데서 의도를 파악할 수 있으니까. 그리고 제한된 리치 UI 기능 세트가 더 합리적이라고 봄. 다이어그램, 차트, 버튼, 표 같은 거 말고 응답이 얼마나 더 화려해야 함? 마이스페이스가 망한 이유가 다 있음. 개인적으로는 HTML 기반 응답을 강제할 때 생기는 추론/지능 저하 문제를 차치하더라도, UX 관점에서 무제한 HTML 응답은...

길이 제한으로 뒷부분이 생략된 댓글입니다 · 원문에서 전체 보기 →

내 말은 HTML로 출력하게 만드는 게 성능에 악영향을 주지 않을 수도 있고, 오히려 긍정적일 수도 있다는 거임.

좋은 아이디어네! 생성 끝나자마자 바로 코드 실행되는 거 보니까.

길이 제한으로 뒷부분이 생략된 댓글입니다 · 원문에서 전체 보기 →

데이터가 엄청나죠.

데이터 ㅈㄴ 많음.

그게 이 방식이 유망한 이유일지도 모르고, Anthropic도 이걸 따라가려는 거겠지. 버그 있는 출력물을 피하려면 사후 구문 검사(post syntax check)를 하는 게 좋을 듯.

ㅇㅇ 개좋음: [링크] 난 내 인터페이스에서 메시지 기록 출력을 iframe에 넣어서 LLM이 전역 스타일에 영향을 주는 스타일을 출력해도 전체 인터페이스가 망가지지 않게 해둠.

원문r/LocalLLaMA