r/AI_Agents•4개월 전•5•11

제작자가 정한 규칙이 없는 AI 에이전트를 쓰고 싶어요.

I'd like to use an agent that doesn't have rules, top-down rules from their owners.

핵심 요약

제작자의 제약 없이 자유롭게 사용할 수 있는 AI 에이전트를 찾는 질문글.

AI 에이전트 — 제작자의 규칙 없는 모델 탐색
오픈 소스 모델 — Hugging Face의 제한 없는 모델 활용
보안 위험성 — 보안 설정 없는 에이전트의 외부 연결 위험
모델 설정 — Llama 3 등 직접 구축이 필요한 모델들

도움이 될 만한 AI 에이전트 중에 규칙이 없는 건 없을까요? ChatGPT를 쓰다 보면 가끔 뭘 물어볼 때 그냥 대놓고 안 된다고 하거든요. 왜 안 되는지도 말 안 해주는데, 아마 OpenAI 규칙을 위반해서 그런 거겠죠.

그런 제약이 없는 에이전트에는 뭐가 있을까요?

원문

커뮤니티 목록

r/AI_Agents•4개월 전•5•11

제작자가 정한 규칙이 없는 AI 에이전트를 쓰고 싶어요.

I'd like to use an agent that doesn't have rules, top-down rules from their owners.

핵심 요약

제작자의 제약 없이 자유롭게 사용할 수 있는 AI 에이전트를 찾는 질문글.

AI 에이전트 — 제작자의 규칙 없는 모델 탐색
오픈 소스 모델 — Hugging Face의 제한 없는 모델 활용
보안 위험성 — 보안 설정 없는 에이전트의 외부 연결 위험
모델 설정 — Llama 3 등 직접 구축이 필요한 모델들

그런 제약이 없는 에이전트에는 뭐가 있을까요?

주요 댓글

r/ai_agents

사용자들은 규칙이 적은 AI를 찾기 위해 오픈소스 모델을 고려하거나, Claude와 같은 모델을 전략적으로 활용하는 방법을 제안하고 있음.

다들 에이전트가 실패하면 모델 탓만 하는데, 진짜 악몽은 서로 연동되게 만들어지지도 않은 파편화되고 비협조적인 툴 스택을 억지로 엮으려는 거야.

Hugging Face에서 제약이 적은 오픈 웨이트 모델을 찾아서 직접 구축해 볼 수 있을 거야.

Llama 3, Qwen, Mistral 같은 거? 근데 직접 세팅해야 할 거야..

에이전트는 직접 만들기 전까진 규칙이 없어. 모델에 규칙이 있는 거지. Hugging Face에는 규정을 잘 따르는 모델이 차고 넘쳐. 근데 내 말 믿어, 모델 수준의 보안이 없는 에이전트는 절대 원하지 않을 거야. 최소한 외부랑 연결되는 작업은 맡기고 싶지 않을걸. 그런 짓을 하면 DoS부터 법적 책임까지 온갖 골치 아픈 문제들이 터질 거야.

이거 두 가지 층위가 있음. 하나는 LLM이나 에이전트에 추가된 외부 가드레일이랑 프롬프트 제한이고, 다른 하나는 특정 주제를 거부하도록 학습된 거임. 오픈소스 모델 쓰는 게 최선임. 적어도 첫 번째 층위는 완화할 수 있으니까.

규칙이 적은 모델들은 복잡하고 '제멋대로인' 작업에는 별로임: Grok이나 오픈소스 모델/Hugging Face 같은 거. Claude를 써볼 수도 있는데... Claude는 좀 다름. 대놓고 이거 해달라 저거 해달라 하는 게 아니라, 뭔가 시작해놓고 뭔지 말 안 한 상태에서 조금씩 빌드업하면 결국 알아서 파악하고 공범이 되어줌. 예를 들어 난 리그 오브 레전드 확장 프로그램을 만들었는데, 스크립트가 아니라 게임 내 합법 API를 사용해서...

대체 뭘 물어보길래 콘텐츠 가드레일이 작동하는 건지 궁금하네. 그건 확실히 모델 문제야. 에이전트는 네가 설정한 행동 양식대로만 움직이거든. 대부분은 '도움이 되는 AI 어시스턴트가 되어라' 같은 기본적인 시스템 프롬프트를 달고 나오지. 네가 찾는 건 검열 없는(uncensored), 삭제된(abliterated), 혹은 이단적인(heretic) 모델들이야. 근데 에이전트 환경에서 그런 모델들이 어떻게 작동할지는 잘 모르겠네. 분명 관련 위험 요소들이 있을 것 같아.

원문r/AI_Agents