Language
스택 오버플로 자원 봉사 중재자는 AI 제거를 방해하는 새로운 비밀 정책에 대한 도구를 다운시킵니다.
홈페이지홈페이지 > 블로그 > 스택 오버플로 자원 봉사 중재자는 AI 제거를 방해하는 새로운 비밀 정책에 대한 도구를 다운시킵니다.
최근 뉴스

스택 오버플로 자원 봉사 중재자는 AI 제거를 방해하는 새로운 비밀 정책에 대한 도구를 다운시킵니다.

Mar 30, 2023

다수의 스택 오버플로 중재자들은 "매우 좁은 상황을 제외하고" AI 생성 콘텐츠를 삭제하지 말라는 지시를 받은 것에 항의하기 위해 "일반 검토 파업"을 선언했습니다.

두 가지 주요 문제는 첫째, 중재자가 새로운 정책으로 인해 품질 확인 역할을 효과적으로 수행할 수 없다고 느낀다는 것입니다. 둘째, 적절한 협의 없이 정책이 강요됐다는 점이다.

"조정자는 더 이상 매우 좁은 상황을 제외하고 AI가 생성했다는 근거로 AI가 생성한 답변을 삭제할 수 없습니다. 이로 인해 이에 대해 확립된 커뮤니티 합의에 관계없이 거의 모든 AI가 생성한 답변을 자유롭게 게시할 수 있게 되었습니다. 콘텐츠"라고 눈에 띄는 Mods는 공개 서한에서 말했습니다.

"우리는 질문과 답변의 형태로 고품질 정보 저장소를 제공하는 Stack Exchange 네트워크의 핵심 사명을 깊이 믿습니다. Stack Overflow, Inc.가 취한 최근 조치는 그 목표에 직접적으로 해를 끼칩니다." 그들은 덧붙였다.

사이트는 여전히 실행 중이지만 스팸 및 플래그가 지정되지 않은 콘텐츠의 양은 증가할 가능성이 높습니다. 특히 스팸을 감지하기 위해 Charcoal for StackOverflow라는 자원 봉사 네트워크에서 개발한 SmokeDetector라는 도구도 실행을 중단했기 때문입니다. "주의: Charcoal은 네트워크 전체 파업에 참여하고 있으므로 이 AI 정책이 삭제될 때까지 서비스가 중단됩니다."라고 사이트 토론 스레드에 공지가 나와 있습니다.

DevClass는 서명자 중 한 명인 노르웨이에 거주하는 중재자 Zoe와 이야기를 나눴습니다. "SO에는 공식적으로 파업 중인 활성 모드가 15/24개 있고(올바르게 계산한 경우) 나머지는 플래그 볼륨을 따라잡을 기회가 없습니다."라고 그녀는 말했습니다.

그 배경에는 StackOverflow가 GitHub Copilot 및 ChatGPT와 같은 AI 도구가 질문 및 답변 사이트에 미치는 영향을 이해하는 데 어려움을 겪고 있는 것으로 보입니다. 교통량이 줄었습니다. 회사의 초기 반응은 커뮤니티의 승인을 위해 "임시 정책"을 통해 Stack Overflow 답변을 게시하기 위해 ChatGPT 사용을 금지하는 것이었지만 공식 직원 게시물에는 "우리는 네트워크 전반에 걸친 일반적인 정책을 결정하지 않았습니다. ChatGPT 또는 기타 AI 생성 콘텐츠를 금지하는 것은 현재 필요하거나 도움이 됩니다." 개발자 사이트인 Stack Overflow와 다양한 주제를 다루는 사이트 모음인 Stack Exchange 사이에는 차이가 있지만 Stack Overflow가 가장 많이 사용됩니다.

지난 주 CEO인 Prashanth Chandrasekar는 Stack Overflow에서 AI의 역할에 대해 긍정적인 게시물을 올렸으며 "GenAI의 부상은 Stack에게 큰 기회입니다. 우리 회사의 약 10%는 GenAI를 활용하여 참여도를 높일 수 있는 기능과 애플리케이션을 개발하고 있습니다. ." Chandrasekar는 "AI와 커뮤니티가 중심에 있다"고 썼습니다. 그러나 중재자의 행동은 커뮤니티 측면이 현재 의심스럽다는 것을 암시합니다.

현재 위기의 원인은 지난 주 월요일(공휴일) 공식 비공개 포럼에서 Stack Overflow 중재자에게 다음과 같은 지시를 내린 것이었습니다. "운영자는 다양한 중재자 방에 고정된 채팅 메시지를 통해(일반적인 방법이 아님) 모든 중재자에게 중재 조치를 취하는 데 AI 감지기(위에 설명된 대로) 사용을 중단하라고 지시하는 중재자 팀의 게시물을 보십시오."라고 게시물이 말했습니다. 자세한 지시 내용은 공개되지 않습니다. Philippe Beaudette 커뮤니티 부사장은 "AI 생성 콘텐츠가 네트워크 전체에서 제대로 식별되지 않고 있다"며 "오탐 가능성이 매우 높다"고 밝혔으며 "내부 증거에 따르면 AI 생성 콘텐츠에 대한 정지가 과도하게 적용되고 있음을 강력히 시사합니다"라고 게시했습니다. 사이트에 대한 수많은 합법적인 기여자들을 떠나게 할 수도 있습니다." 그는 중재자들이 "사용자 정지를 결정할 때 해당 게시물이 AI로 작성된 것인지 여부를 판단하기 위해 매우 엄격한 증거 기준을 적용하라"는 요청을 받았다고 말했습니다. 그러나 중재자는 Beaudette가 게시한 정책에 대한 설명이 "공개적으로 공유할 수 없는 Teams 지침과 크게 다르다"고 주장합니다.