Am I going insane for thinking that these are all Bot comments?
레딧 내 봇 댓글 증가와 AI 생성 콘텐츠의 범람에 대한 사용자들의 우려와 분석이 이어지고 있습니다.
이 서브레딧에 봇들 좀 있는 건 알았는데, 와 댓글들 진짜 AI가 쓴 거 같네. 나만 그렇게 느끼는 거냐, 아니면 진짜 봇 댓글들 맞냐?
출처:
사용자들은 레딧 내 AI 생성 댓글이 급증한 것에 대해 피로감을 느끼며, 특정 모델들이 반복적으로 사용하는 부자연스러운 문구와 패턴을 지적하고 있습니다.
맞아, 특정 카테고리의 제품 추천 스레드들은 확실히 그래. LLM이 나오기 전부터 이미 여론 조작(astroturfed)이 심했어. 이걸 전문으로 하는 마케팅 업체들이 있거든.
완전 맞는 말이야!
그 댓글 작성자들은 그냥 공룡 옷 입은 봇들이지.
Qwen 5.5 27B 써봤어? 금방 내 데일리 드라이버가 됐어. Gemma 7보다는 확실히 나음.
맞아. 네가 올린 사진이 결정적인 증거네. 이건 그냥 일회성 문제가 아니라 레딧이 돌아가는 방식 자체가 바뀌는 패러다임의 전환이야. /s
난 여기저기서 봇들을 다 봐. 심지어 LLaMA랑 상관없는 서브레딧에서도 보통 비추천을 받는 걸 보곤 하지. 그건 다행이라고 생각했는데, 네가 반례를 찾아냈으니 이제 그런 흐름도 바뀌고 있는 건 아닌지 걱정되네.
진짜 최악인 건 봇 두 마리가 서로 멍청한 싸움(slopfight)을 벌이는 스레드를 볼 때야. 그래도 보통은 답글 없이 단일 댓글로 끝나는 경우가 많긴 하더라.
상황이 이 정도로 심각해진 거야. 레딧뿐만이 아니라 실제 인간들의 토론이 이루어져야 할 거의 모든 웹사이트에서 벌어지는 일이지.
이 서브레딧은 특정 주제에 대해 확실히 여론 조작이 심해.
정상적인 사용자들도 있지만, 봇들이 엄청나게 많고 봇들이 하는 말은 뭐든 믿는 AI판 코인 브로들도 많아.
어쨌든, 오픈 웨이트가 어떻게 미래인지, 그리고 그게 공짜 물건이 아니라는 점, 그리고 중국이 모든 걸 얼마나 잘하고 있는지에 대해 다시 얘기해보자고.
2025년부터 바이럴되는 모든 게 여론 조작이라는 음모론을 가지고 있음. 밈 게시물조차도. LLM 기업들이 밈을 만들고 가짜 업보트를 해서 자기들이 데이터가 부족한 특정 주제에 대한 댓글을 찾아내려는 거임.
씨발, 나 사람이라고! 그냥 Breeze가 좋은 모델이라고 생각했을 뿐이라고, 젠장. 누가 캡차 좀 가져와 봐라, 씨발. 수정: 그리고 니들 다 엿 먹어라, 그 스레드는 사람들이 쓸만한 좋은 AI 툴 추천하는 글이었거든.
x가 아니라 y지.
한번 눈에 띄기 시작하면 어디서든 안 보일 수가 없지.
문제는 이런 것들이 우리 글을 학습한 뒤에 구어체도 아니고 자연스럽지도 않은 이상한 말투로 튜닝된다는 거야.
SynthID 같은 워터마킹이 진짜 해결책은 아니라는 거 알아... 그치만 뭔가 필요하긴 해. 설령 그렇다 해도, 이런 시스템을 만들고 운영하는 놈들이 악용하지 않을 거라고 누가 장담하겠어?
지금쯤이면 레딧 트래픽 절반 이상은 봇이나 AI일걸.
나도 동감해. 근데 솔직히 인기 있는 서브레딧마다 게시물 상단에 봇 댓글 3개씩 달려 있는데 아무도 눈치채지 못하는 것 같아서 좀 소름 돋아. 나한테는 너무 뻔히 보이는데 말이야.
너한테 또 뻔히 보여야 할 게 뭔지 알아? 바로 Meta Muse가 네 인생을 바꿀 수 있다는 거야! 유용하고 도움이 되는 봇이라고!
업무 시간 절반을 추론 과정(reasoning traces) 읽는 데 쓰다 보니 뇌가 좀 이상해진 것 같아. 이제 유튜브 영상 하나도 제대로 못 보겠어(심지어 실제 사람이 대본 읽는 영상인 걸 알아도). 특정 모델들이 반복적으로 사용하는 미묘한 문구들이 너무 쉽게 눈에 띄거든. 특히 Claude가 심해. 다들 본 적 있을 거야. 걔네들 특유의... 분위기나 징후가 있거든. 특정 주장이나 수식어를 표현할 때 가능한 표현의 폭이 너무 좁아 보여. '결정적 증거(smoking guns)', '핵심적인(load-bearing)', '중요한 포인트', '무언가가 조용하다/시끄럽다', '그리고 여기서 <뭐시기>가 <어쩌구>한다' 같은 것들. 그런 류의 헛소리들 말이야. 그런 표현들 리스트를 만들어서 내 에이전트들이 아예 안 쓰게 할까 고민도 해봤는데, 내 흥미보다 귀차니즘이 훨씬 커서 문제지.
"그리고 여기서 <뭐시기>가 <어쩌구>한다"
이거 진짜 사람 미치게 만들어. 특히 "여기서 이게 승리하는 지점이다(Here's where this wins)"나 "여기서 이게 살아난다(Here's where this lives)" 같은 거.
마케팅 피치 덱(pitch deck)처럼 들리긴 하는데, 대체 2022년에 어떤 마케팅 문구가 이런 식이었는지 도통 모르겠어. 왜 이렇게 숨 가쁘고 리듬감도 없는 거야? 도대체 누가 이런 거에 감명받은 거지?
NVIDIA가 에이전트 보안을 위한 오픈소스 샌드박스 'OpenShell'을 공개하며 업계 표준화를 주도하고 있습니다.
NVIDIA가 에이전트 보안을 위한 오픈소스 샌드박스 'OpenShell'을 공개하며 업계 표준화를 주도하고 있습니다.
