스택 오버플로 중재자는 쓰레기 AI 콘텐츠가 사이트에 넘쳐나는 것을 막기 위해 노력하고 있습니다.

소프트웨어 개발자들이 Stack Exchange에서 질문하고 답변하는 인기 포럼인 Stack Overflow의 자원 봉사 중재자들은 이제 모든 GPT 생성 콘텐츠가 사이트에서 허용된다는 회사의 새로운 AI 콘텐츠 정책에 대해 총파업을 선언했습니다. AI 콘텐츠에 대한 정지는 즉시 중단되어야 합니다. 중재자들은 챗봇 정보가 자주 부정확하다는 점을 고려할 때 이로 인해 발생할 수 있는 피해에 대해 우려하고 있다고 말합니다.

"Stack Overflow, Inc.는 AI 생성 콘텐츠를 조정하는 것을 거의 완전히 금지하는 명령을 내렸습니다. 암묵적으로 Stack Exchange 네트워크에서 잘못된 정보("환각")의 확산과 무제한 표절을 허용합니다." 중재자가 작성한 공개 서한을 읽습니다. , 이들은 모두 지역사회에서 선출된 자원봉사자들입니다.

"이는 플랫폼과 콘텐츠의 무결성과 신뢰성에 큰 위협이 됩니다. 즉시 발효되는 우리는 이번 정책과 기타 최근 및 향후 정책 변경에 항의하여 Stack Overflow와 Stack Exchange 네트워크에 대한 일반 조정 파업을 실시합니다. Stack Overflow, Inc.가 우리에게 강요하는 플랫폼입니다."

5월 말에 제정된 새로운 정책에 따르면 중재자는 단지 AI가 생성했다는 이유만으로 AI 생성 콘텐츠를 조정하는 것을 중단해야 합니다. 그러나 AI 생성 콘텐츠를 적절하게 조정하지 않으면 중재자는 Stack Exchange 정보의 품질과 정확성이 빠르게 저하될 것이라고 말합니다.

"AI 챗봇은 앵무새와 같습니다"라고 Meta Stack Exchange의 중재자가 게시한 게시물에서 그들의 요구 사항을 자세히 설명합니다. "예를 들어 ChatGPT는 사용자에게 제공하는 응답을 이해하지 못합니다. 단순히 주어진 프롬프트를 액세스할 수 있는 정보와 연결하고 그럴듯하게 들리는 문장을 반복합니다. 제공하는 응답이 정확한지 확인할 방법이 없습니다. . ChatGPT는 작가, 프로그래머, 과학자, 물리학자 또는 우리 사이트 네트워크가 고가치 콘텐츠에 의존하는 다른 종류의 전문가가 아닙니다. 메시지가 표시되면 훈련된 정보를 기반으로 단어를 연결하는 것뿐입니다. 무슨 말인지 이해가 안 돼요."

이는 계속해서 사용자가 스스로 이해하지 못한 채 ChatGPT의 답변을 역류할 수 있게 하며, 이는 "고품질 질문 및 답변 콘텐츠의 저장소가 되는 것"이라는 사이트의 목적에 어긋나는 것입니다.

새로운 AI 정책의 내용도 큰 문제 중 하나다. 중재자들은 또 다른 이유는 이를 둘러싼 투명성이 부족하다고 말합니다. 그들은 12월에 사이트가 "일반적인 부정확성"과 사이트 참조 요구 사항 위반으로 인해 모든 ChatGPT 사용을 금지하는 임시 정책을 제정했다고 게시물에 썼습니다. 이 정책은 자원 봉사 중재자와 Stack Exchange 직원 모두의 지원을 받았으며 많은 게시물이 삭제되고 사용자가 정지되었습니다.

그러나 5월 29일 중재자들은 "AI 생성 콘텐츠에 대한 정지 발행을 즉시 중단하고 그 자체만으로 AI 생성 콘텐츠 조정을 중단"하도록 요구하는 새로운 정책이 비공개로 구현되었다고 썼습니다. 다음 날, 중재자가 모든 AI 콘텐츠 제한을 중단하도록 요구하는 문구 없이 약간 다른 버전의 정책이 대중에게 공개되었습니다.

"새로운 정책은 확립된 커뮤니티 합의와 이전 CM 지원을 무시하고 어떤 커뮤니티 회원과도 논의되지 않았으며 중재자에게 오해의 소지가 있는 것으로 제시되었으며 공개적으로는 더욱 오해의 소지가 있으며 검토되지 않고 검토할 수 없는 데이터 분석에서 파생된 입증되지 않은 주장을 기반으로 합니다." Meta Stack Exchange 게시물을 읽습니다.

이어 “사적으로 한 점과 공적으로 한 점의 차이가 너무 커서 진행자들을 난감한 상황에 빠뜨리고, 무리한 비난과 효과를 과장한다는 비난의 대상이 됐다”고 말했다. 새로운 정책."

중재자는 또한 사이트에 AI와 관련되지 않은 개선을 요구하고 있습니다. "이 파업은 또한 Stack Exchange, Inc가 최근에 보여준 행동 패턴에 관한 것이기도 합니다."라고 게시물은 읽습니다. "회사는 다시 한 번 커뮤니티의 요구를 무시하고 합의를 확립했으며 대신 자체 커뮤니티 관리자를 희생하여 비즈니스 중심에 집중했습니다." 그들이 나열한 한 가지 예는 채팅 기능인데, 그들은 이 기능이 매우 오래되었지만 수년 동안 무시되었다고 말합니다.