会员登录 - 用户注册 - 设为메인 화면 - 선택 반전 - 사이트 지도 독일군을 유색인종으로 표현…구글 제미나이 “이미지 생성 기능 일시 중단”!

독일군을 유색인종으로 표현…구글 제미나이 “이미지 생성 기능 일시 중단”

시간:2024-03-29 05:25:46 출처:레인보우웨이브뉴스 작성자:오락 읽기:886次

독일군을 유색인종으로 표현…구글 제미나이 “이미지 생성 기능 일시 중단”

구글이 개발한 AI 모델 '제미나이'/연합뉴스구글이 자사 생성형 인공지능(AI) ‘제미나이’의 이미지 생성 기능을 일시중단했다. 인물 이미지를 만드는 과정에서 인종과 성별 등을 잘못 생성하는 등 다양성 논란에 휩싸였기 때문이다.구글은 21일(현지 시각) X(옛 트위터)를 통해 “우리는 제미나이가 일부 역사적 이미지 생성 과정에서 부정확하게 이미지를 제공하고 있다는 사실을 알게 됐다”며 서비스를 일시 중단한다고 밝혔다. 구글은 지난 1일 제미나이에 사용자의 설명을 바탕으로 이미지를 생성하는 기능을 추가했다. 제미나이는 이 과정에서 위험하거나 혐오스러운 명령에 응답하지 않고 이미지 생성에 다양성을 중요하게 여기도록 훈련 받았다. 하지만 다양성에 과도한 가중치를 부여한 나머지 미국 대통령이나 2차 세계대전 당시 독일군 이미지를 생성해 달라는 요구에 동양 여성이나 흑인 남성 등의 이미지를 만들어 내면서 역사적인 맥락에서 벗어난 부정확한 이미지를 생성하는 오류가 나타난 것이다. 구글은 “이러한 종류의 이미지 묘사를 즉시 개선하기 위해 노력하고 있다”면서 “곧 개선된 버전을 다시 출시할 것”이라고 했다.생성형 AI의 ‘환각’ 문제는 오픈AI의 챗GPT 등 다른 AI에서도 나타나는 현상이다. 최근 스탠포드대 연구팀은 3개의 AI 모델이 생성한 20만 개의 법률 질문에 대한 응답을 살펴본 결과, 챗GPT와 메타 라마의 오류 비율이 각각 69%, 88%에 달하는 것으로 나타났다. 지난해 8월 미국 워싱턴대, 카네기멜론대 등 공동 연구팀은 챗GPT-4와 메타의 라마가 어떻게 데이터를 훈련 받았는지에 따라 답변에 정치적 편향성이 나타난다는 사실도 밝혀냈다. 챗GPT-4는 좌파 성향이었던 반면, 라마는 보수에 가까웠다는 것이다.

(책임편집:핫스팟)

추천 콘텐츠
  • “자동 문장 수정부터 통화 소음 제거까지”… AI 품고 진화하는 태블릿PC
  • 동작구, 공공시설에 전기차 충전기 확충…총 1천603대
  • 현대차·기아·수입차 대다수 "영향제한" vs 테슬라 등 '타격'
  • 세탁·건조 한번에…삼성·LG 일체형 세탁건조기 국내 출격 임박(종합)
  • 마약, 뇌 녹아내려…조현병·치매 각오해야 전문의의 섬뜩한 경고
  • 서일준 의원 "KDDX 기밀 절도, 방산 근간 세우는 계기로 삼아야"