미국의 비영리 인공지능 연구기업인 오픈 AI가 2월 14일, 사람보다 글을 잘 쓰는 인공지능 기술(openai.com/blog/better-language-models)을 개발했다고 발표했다. 오픈소스 플랫폼인 깃허브(Github)에 관련 논문을 게재하긴 했으나, 원본 기술 전체를 공개하는 대신 샘플 버전만 업로드했다. 기술의 능력이 부분적으로는 인간보다도 뛰어나서 가짜 뉴스, 여론 조작 등과 같은 오남용의 우려 때문이다.

샘플 문장을 입력하면 유사한 문맥의 글을 창작하는 문장 생성 전문 인공지능인데, 이를 위해 약 40GB에 해당하는 인터넷 텍스트를 학습했다. 이때 일정 수준 이상의 글만 학습시키기 위해서 뉴스 사이트인 레딧(Reddit)에서 3표 이상을 받은 링크만 학습 자료로 선정했다. 또한, 문장을 제시하면 다음 단어를 예측하도록 훈련하여 특정한 주제에 대해 사실적이고 일관적인 지속성을 바탕으로 글을 생성한다.

GPT2, Open AI