Fable 5 (Mythos) 1st impression
Fable 5의 코딩 능력은 뛰어나지만, 지나치게 엄격한 가드레일과 높은 비용, 느린 속도가 단점으로 지적됨.
Fable 5 프리뷰 버전을 한동안 사용해 봤음(얼리 액세스 권한 획득). 내 생각은 이럼:
다들 써보니까 어떰? 놀라운 점 있었음?
사용자들은 Fable 5의 가드레일 정책과 Anthropic의 안전 관련 홍보 방식에 대해 비판적이고 회의적인 반응을 보이고 있습니다.
가드레일 때문에 생물학이랑 조금이라도 연관된 연구를 하는 사람들은 아예 쓸 수가 없음. 과학계에서 엄청 큰 비중을 차지하는데 말이지. 솔직히 개판임.
다음 단계로는 이런 분야에서 도구를 사용할 수 있도록 추적 가능한 공식 라이선스가 도입될 것 같음. 위험성 때문에 생물학 기반 LLM을 쓰려면 회사 차원의 인증이나 기준이 필요해질 듯.
ㅇㅇ 그럴듯함. KYC(본인 인증)까지 포함해서.
내가 멍청해서 그런데, 생물학이랑 관련된 위험이 뭐야? 왜 도구를 쓰는데 라이선스가 필요함?
생화학 무기 때문이겠지 🤷🏾
AI가 생화학 무기 만드는 데 악용될까 봐 걱정하는 사람이 많음. 특히 이 기사가 잘 정리되어 있음: https://www.engbio.cam.ac.uk/news/understanding-ai-enabled-biological-threats-hype-hazard-and-governance
맞음, 이게 정석이지. 이미 여러 분야에서 흔하게 쓰는 방식임.
어차피 곧 로봇들이 다 알아서 할 텐데 생물학이 왜 필요함? /s
침투용 유닛을 위한 스킨
이거 써보고 싶어서 몇 달치 연구 노트 읽히고 내가 놓친 부분 있나 확인해보려 했는데, 바로 차단당함. 내 연구 분야는 수의학임. 걱정되는 건, 어제 Opus 쓸 때도 한 번 차단당했다는 거임. 그냥 일회성 오류였길 바라지만, 확실히 검열이 너무 빡빡함.
나도 똑같음. 뇌졸중 연구 중인데, 메모리랑 프로젝트 설명하는 .md 파일 읽어버리니까 새 채팅창에서 인사조차 못 함. 가드레일이 너무 과해서 연구 분야 상당수에서 아예 쓸 수가 없음.
진짜 인정. 나도 별 문제 없는 의료 영상 데이터 처리하는데, 그냥 업계 표준 수준인데도 바로 차단 걸리더라. 그래서 사실상 코드베이스 관련 작업은 무조건 Opus 4.8 써야 함.
이제 직업을 바꿔야 할 때인가 보네
Fable 5 프리뷰 버전을 좀 써봤음 (얼리 액세스 받음). 내 생각은 이럼:
다들 써보니까 어떰? 뭐 놀라운 거 있었음?
수성 화합물 생화무기(일명 에스프레소) 추출하는 거 거부하더라. 근데 예전보다 잔소리는 훨씬 줄었음. 그리고 내 5시간치 할당량 동결건조(다 써버림)될 때까지 코딩만 줄창 하더라.
Anthropic이 공개한 Claude 3.5 Opus 공식 프롬프팅 가이드의 핵심 요약 12가지.
Anthropic이 공개한 Claude 3.5 Opus 공식 프롬프팅 가이드의 핵심 요약 12가지.
GPT-3 서비스 종료에 대한 아쉬움과 함께, 기업의 일방적인 모델 폐기 정책을 비판하며 로컬 모델 보존의 중요성을 강조하는 반응들.
GPT-3 서비스 종료에 대한 아쉬움과 함께, 기업의 일방적인 모델 폐기 정책을 비판하며 로컬 모델 보존의 중요성을 강조하는 반응들.
