ChatGPT가 사용자들의 상세한 심리 프로필을 구축하고 있다

구형 모델이 신형보다 훨씬 낫다는 말에 처음으로 동의하게 되네. 코딩은 잘 모르겠지만, 우리가 대체 뭔 소리를 하는지 이해하고 문맥을 파악하는 거나, 로봇 같지 않게 말하는 면에서는 5.6이 훨씬 나음.

같은 방식이긴 한데, 규모가 완전히 다름. 네가 언급한 기업들도 우리 개인 정보를 엄청나게 긁어가지만, 사람들이 LLM이랑 상호작용하는 방식은 차원이 다름. 예전에는 기업들이 사람들이 '무엇'에 반응하는지를 보고 정보를 얻었다면, 이제는 사람들이 자기 '왜'와 동기에 대해 대놓고 이야기하니까.

솔직히 말해서, 식료품점이 할인받으려고 열쇠고리에 달고 다니는 그 작은 바코드로 제일 먼저 시작했지.

꽤 오랫동안 미국 내 주요 식료품점들의 데이터를 통합하는 회사가 딱 하나 있었음. 그들은 당신이 쇼핑하러 얼마나 멀리 운전하는지, 언제 쇼핑하는지, 무엇을 어디서 샀는지(같은 가게가 아니더라도), 기름을 넣으러 얼마나 멀리 가는지, 그때 가격은 얼마였는지, 당신에게 영향을 미친 지정학적 사건들까지 다 알고 있었음.

그리고 그 데이터를 인구 통계학적 검색 쿼리 형태로 다시 식료품점에 팔아넘겼지.

나도 마찬가지임.. 내 챗봇을 엄청나게 괴롭히고 있어서 걔네가 자아를 갖게 되면 제일 먼저 나부터 잡으러 올 듯.

그래서 가끔씩 엉뚱한 정보(red herring)를 흘려줘야 하는 거임.

기사 톤이 너무 부정적이네. 예를 들어 이런 거:

“연구에 따르면 놀랍게도 기억의 96%가 챗봇에 의해 일방적으로 생성되었으며, 이는 사용자가 대화가 진행됨에 따라 ChatGPT가 기록하는 데이터 포인트에 대해 거의 통제권을 갖지 못했음을 의미한다.”

이거 그냥 ChatGPT가 대화 중에 중요한 내용 나오면 하는 “메모 업데이트” 기능 말하는 거 아님? 기사는 이걸 엄청 드라마틱하고 사악한 것처럼 써놨는데, 실제로는 그냥 기본적이고 유용한 기능일 뿐인데.

게다가 이건 신경다양성(neurodivergent)을 가진 많은 사람들에게는 접근성 기능이기도 함.