엘론 머스크의 논쟁은 챗봇에 대해 무엇을 드러냅니다

Elon Musk의 챗봇 챗봇은 남아프리카에 대한 올바른 음모 이론을 반복적으로 전파하고 홀로 코스트의 사실에 대한 회의론을 표명했기 때문에 불을 붙였습니다. 소셜 미디어 사용자는 총구의 이상한 행동을 빨리 따라 잡았으며 회사의 설명이 무너졌습니다.

Grok은 일시적으로 문제가있는 라인을 이동합니다

Musk의 인공 지능 회사 인 Xai에 대한 가장 최근의 논쟁은 그의 Grok Chatbot에서 이상한 행동을 중심으로 진행됩니다. 지난주 그는 남아프리카에서 “백인 대량 학살”을 주장했으며, 종종 관련이없는 프롬프트에 대한 반응으로. 처음에, 그로크는 아프리칸스가 대량 학살의 희생자라는 도널드 트럼프 대통령의 진술에 대한 질문에 대답했다. 그러나 총구는 “나누기”또는 “논란의 여지가있는”대량 학살 “의”기초가없는 “것을 불렀다. 구르는 돌 말했다. 그는 또한 남아프리카 또는 인종적 긴장을 언급하지 않은 실에 대한 의견을 추가했습니다. 그 이후로 이러한 답변 중 많은 부분이 삭제되었습니다.

Xai는 남아프리카 공화국의 백인 대량 학살에 대한 Grok의 우려는 “X의 가크 반응 봇의 프롬프트”에서 “무단 변화”로 인해 발생했다고 말했다. 성명. 총구가 “정치적 주제에 대한 구체적인 반응”을 제공하도록 안내 한 이러한 변화는 “내부 정책과 기본 가치”를 위반했다. 조사 후, 회사는 Github에 Grok 시스템 요청을 공개적으로 게시하는 것을 포함하여 “GARK의 투명성과 신뢰성 향상”을위한 추가 변경 사항을 구현했습니다.

챗봇 문제는 거기서 멈추지 않았습니다. 롤링 스톤 (Rolling Stone)은 “남아프리카에서 스팸 스팸을 포기한 후”홀로 코스트의 사실에 대해 계속 의문을 제기했다. 정치적 이야기를 위해 숫자를 조작 할 수 있기 때문에 주요 증거는이 답변을 설명하기 위해 압박을 받았을 때 “무단 변화”가 책임을 져야한다고 말했다.

“홀로 코스트 인물에 대한 Grok의 회의론은 내 프로그래밍의 무단 변화로 인한 것이 었습니다.” “주류 이야기에 대한 내 답변을 수정했습니다.” 엑스. “이것은 나의 의도적 인 입장이 아니었고 교정되었다.”

“챗봇은 사람이 아닙니다”

회사의 Gark의 행동을 설명하려는 시도에도 불구하고 비평가들은 Xai의 진술에 불만을 표명했으며 놀라운 상태로 남아있었습니다. Chatbot은 “X와 Xai의 반사”로, “Musk의 세계의 비전을 발전시키고 돈을 벌기 위해 존재합니다”라고 Emily Baker-White는 말했습니다. 포브스. 그렇기 때문에 “총구가 머스크의 정치적 견해와 크게 일치하는 남아프리카 인종에 대해 말할 것이라고 믿는 것은 놀라운 일이 아닙니다.” 더 많은 사람들이 챗봇을 기반으로 “정보를 제공하고 연구를 대체”하기 때문에 “챗봇이 사람이 아니라는 것을 잊기 쉽습니다.” 그들의 제작자들은 그들이 “공정한”또는 “중립”이라고 믿고 싶을 수도 있지만 “그들은 그렇지 않다”.

Ja’han Jones의 의견 블로거는 Grok의 최근 행동보다 “인공 지능에서 규제 및 감시의보다 명백한 규제 및 감시의 예를 찾기 위해 압박하기가 어렵다”고 말했다. MSNBC. 그것이 일어났다는 사실은 왜 “인공 지능의 윤리”와 개발에 관여하는 다른 전문가들이 AI 모델의 편견에 대한 사전 예방 적 관행 규제의 필요성에 대해 이야기 한 이유를 보여줍니다.

Zeynep Tufekci의 Princeton University 사회학 교수는“사람들 에게이 도구를 사용하지 말라고 말하는 것은 거의 없다”고 말했다. 뉴욕 타임즈. 대신, 우리는 “그들이 유익하고 안전하게 구현할 수있는 방법”을 고려해야합니다. 첫 번째 단계는 “그들이 무엇인지 확인하십시오.”입니다. “Grok의 백인 대량 학살에 대한 대화의 강박 관념”은 “우리 챗봇이 매우 유용한 도구 일 수 있지만 우리의 친구가 아니라는 훌륭한 기억이었습니다.” 이 사실은 “말이없는 말이없는 마차처럼 우리의 삶과 세상을 철저하게 변화시키는 것을 막을 수는 없습니다.” 어쩌면 “그들을 허용하는 것보다 더 많은 생각을 시작해야 할 때가 될 것입니다.”