구글 스칼라 인용 6.7만 회의 보안 전문가 Nicolas Carlini가 Claude가 자신보다 보안 연구를 잘한다고 평가함 | AIwitness

r/ClaudeAI•2개월 전•517•66

구글 스칼라 인용 6.7만 회의 보안 전문가 Nicolas Carlini가 Claude가 자신보다 보안 연구를 잘한다고 평가함

핵심 요약

Claude가 20년 넘게 방치된 리눅스 커널의 버퍼 오버플로우 취약점을 찾아내며 보안 분야에서의 AI 잠재력을 입증함.

리눅스 익스플로잇은 2003년에 도입된 이후 지금까지 발견되지 않았다는 점에서 특히 흥미롭습니다. 이는 버퍼 오버플로우 오류였는데, 너무나도 어려운 작업이라 Carlini조차 해본 적이 없다고 합니다.

그는 또한 LLM이 시간이 지날수록 더 발전할 것이라고 예상하는데, Mythos가 소문대로라면 아마 사실일 것입니다.

그의 신뢰성을 의심할 경우를 대비해 위키백과와 구글 스칼라 페이지를 첨부합니다: https://en.wikipedia.org/wiki/Nicholas_Carlini

r/claudeai

Claude의 보안 취약점 탐색 능력에 대해 놀라워하면서도, 버퍼 오버플로우의 난이도와 AI의 활용 가능성을 두고 커뮤니티 내에서 열띤 논쟁이 벌어짐.

110

영상 내용을 다시 보니 OP가 말한 버퍼 오버플로우 관련 언급은 없었음. AI가 복잡한 공격을 추론한 게 핵심임.

OP가 Ghost와 리눅스 커널 건을 섞어서 말함. 핵심은 AI를 통한 보안 취약점 탐색의 확장성과 규모임.

9분 지점에서 그가 리눅스 커널에서 힙 오버플로우를 찾은 적 없다고 말함.

리눅스 커널은 수많은 사람이 보는데도 못 찾은 걸 AI가 찾았다는 게 대단한 거임.

Claude가 아무리 뛰어나도 결국 쓰는 사람 역량에 따라 결과가 천차만별임.

영상 보면 그냥 파일 하나 던져주고 취약점 찾으라고 루프 돌린 게 전부임.

버퍼 오버플로우가 가장 기초적인 공격인데 보안 연구원이 이걸 못 해봤다는 게 말이 됨?

이론적으로는 쉽지만 리눅스 커널 같은 실제 운영 환경에서 찾는 건 차원이 다른 문제임.

보안 엔지니어로 오래 일했는데 버퍼 오버플로우가 그렇게 불가능한 수준은 아님.

Carlini가 말한 건 그냥 버퍼 오버플로우가 아니라 리눅스 커널 내의 힙 오버플로우를 말하는 거임.

CVE 번호 묻는 건 상대방 신상 털려는 거라 예의 없는 행동임.

버퍼 오버플로우가 어렵다고 한 건 너의 주장이지 Carlini의 의도가 아님.

보안 업계 종사자는 아니지만 수업이나 소규모 회사 보안 테스트에서 몇 번 해봤음.

AI로 백도어를 찾을 수도 있지만, 반대로 AI가 더 교묘한 백도어를 설계할 수도 있음.

스마트 컨트랙트 해킹 사례 보면 AI가 인간이 놓친 단순한 실수를 잘 찾아내는 듯.

마이크로소프트와 Unsloth의 파트너십에 대해 오픈소스 생태계 잠식 우려와 회의적인 반응이 엇갈리고 있습니다.

Claude의 지시사항 무시 문제를 해결하기 위해 스킬을 설정해도 여전히 고통받는 사용자의 고민.

ChatGPT의 답변을 보고 놀라워하는 작성자와 이를 유머러스하게 받아치거나 비꼬는 커뮤니티 반응들.