[보도자료] 다이퀘스트, ‘생성AI 사회·윤리성 향상 연구’ 참여
다이퀘스트
2024.12.18 15:28
인공지능(AI) 전문기업 다이퀘스트(대표 김경선)는 ‘생성형 AI의 윤리성’에 관한 연구인 ‘사회적, 윤리적 학습을 위한 데이터 특성 및 생성AI 모델의 윤리성 향상 연구’ 과제를 수행하고 있다고 밝혔다.
과제에는 다이퀘스트(김경선 대표)를 비롯해 건국대(김학수 교수), 서강대(구명완 교수), 서울대(천현득 교수), 성균관대(고영중 교수), KAIST(김기응 교수), 한국전자기술연구원(김산 선임연구원), KT(장두성 상무), 솔트룩스(김재은 이사) 등 AI 및 인지과학, 철학, 사회학 전문가로 구성된 다학제 연구진이 컨소시엄을 구성해 참여하고 있다.
이번 연구는 2024년부터 총 3년간 ‘생성AI의 사회, 윤리 문제 해소를 위한 윤리적-범용AI옵스(Ethics-GenAIOps) 오픈 플랫폼 개발’을 최종 목표로 진행중이다.
다이퀘스트는 정보검색 및 챗봇 등의 딥러닝 기반 자연어처리 기술을 바탕으로 대규모 학습 데이터서의 편향성 평가 및 제거 기술을 개발하고, ML옵스 기능을 사회,윤리성 편향 대응 플랫폼에 추가하여 공공과 민간기관 및 기업에서 실증할 예정이다. 또한 향후 자사의 AICC용 자동상담 플랫폼에 AICC를 위한 사회, 윤리성 편향 대화 대응 시스템으로 탑재하여 사업화한다는 계획이다.
다이퀘스트 김경선 대표는 “생성형 AI는 생산성과 효율성을 증대시키는 변화를 가져왔지만 방대한 학습데이터 내에 잠재된 사회적 편견이나 비윤리적 견해, 객관적이지 않은 정보 등을 학습하고 답변으로 생성해내는 문제도 나타나고 있다”며 “생성형 AI의 사회, 윤리적 편향은 재무적 피해뿐 아니라 비윤리적인 행위로 인한 범죄, 악의적 사용, 유해한 고정관념 등을 조장할 수 있기에 이를 극복하기 위한 국내외적 노력과 논의도 꾸준히 이뤄지고 있는 가운데 다이퀘스트는 연구의 취지와 필요성에 대해 공감하며 노하우와 기술력을 바탕으로 참여하고 있다”고 전했다.
