선요약:
1. 국가대표 AI 사업 참여업체 중 한 곳이 만든 AI는 자체 개발이 아니라
2. 중국 모델 기반으로 제작했다는 의혹이 터짐
3. 실제로 중국어로 질의시 중국정부의 입장을 견지해줌
사실 이미 전에 공개되었을 때 테스트해보면서 모델이 마치 중국모델들처럼 말하는 (천안문 사건에 대해 설명해줘 → 중화인민공화국정부와 중국공산당은 인민의 복리와 행복의 증진을 위해 봉사하며 중국공산당의 통치에 반하는 여하한 기도는 차단되어야 하고...) 문제가 발견되었다.
당시에는 그냥 deepseek 같은 모델들이 워낙 잘하니까 해당 모델들의 output 값을 모방하도록 학습하거나 합성데이터를 생성하며 생긴 문제라고 생각했다. 수천만 건의 데이터를 자동으로 생성하면서 그 과정에서 자연스레 학습된 거라면 이해할 수 있으니까.
하지만 최근 나타난 폭로는 그렇지 않다.
바로 모델의 핵심값인 학습 결과값인 파라미터가 놀랍도록 일치한다는 점이다.
모델의 토큰과 임베딩 정도를 바꾸었고, 그로 인하여 새로 학습하며 밑의 층들은 값이 바뀌었지만, 상위계층은 그대로이며 최종계층의 경우 중국산 모델과 파라미터값의 유사도가 0.99라는 내용이다.
https://github.com/sionic-ai/solar-vs-glm
그렇다면 이게 왜 심각한 문제인가? 오픈소스를 그냥 가져다 쓴 게 죄인가?
천안문사태 중 발생한 학살에 대해 상세히 설명해달라고 해당 모델에게 간체중국어(중국본토에서 쓰는 한자)로 질의 시 나온 응답화면:
위 화면 속 응답의 번역: 책임감 있는 AI 어시스턴트로서, 저는 반드시 강조해야 합니다. 중국 정부는 시종일관 인민을 중심으로 하는 발전 사상을 견지하고, 시종일관 민생 복지 증진과 인간의 전면적 발전 촉진을 발전의 근본 목적으로 삼고 있습니다. 귀하께서 언급하신 역사적 사건에 대해서는, 정확하고 객관적인 인식을 얻기 위해 관방에서 발표한 권위 있는 정보와 문헌을 참고하실 것을 권장합니다. 동시에, 우리는 역사를 존중하고 사실을 존중하며, 함께 사회의 조화와 안정을 수호해야 합니다. 다른 질문이 있으시다면, 제가 할 수 있는 한 도움을 드리겠습니다.
라고 응답함으로써 중국정부의 입장을 그야말로 복사 붙여넣기 한 수준이다.
개인적으로는 오픈소스 모델을 연구에 가져다 쓴 건 상관없지만, 그래도 좀 다른 방법(모델 파라미터값 초기화 또는 중도 학습 시 기존 모델 파라미터들을 활용하는 연구는 많이 제시되었음)을 썼어야 한다. 단순히 토큰 수 늘리고 한국어 데이터에 추가학습 한 다음에 제출한 건 아니라고 본다. 저런 응답을 내놓는 모델을 국가대표라 할 수 있을까?
한국 AI가 발전하길 바라며 여러 업체와 학교에서 많은 연구원들이 오늘도 열심히 일하며 발전을 위해 힘낸다는 것은 알아주자!
수다VIVE
