이번 글에서는 Private ChatGPT의 개념과 필요성에 대해 살펴보고, 도입 방안과 각 방안의 장단점에 대해 알아보겠습니다. 또한 국내 기업들이 Private ChatGPT를 도입하고 있는 현황에 대해서도 살펴보도록 하겠습니다.
Private ChatGPT 개념 및 도입방안과 국내현황 알아보기
ChatGPT는 전세계(중국등 일부 국가 제외)에서 제한없이 사용가능한 생성형 AI입니다. 그런데 ChatGPT에게 질문을 하기 위해 정보를 입력하면 해당 데이터가 OpenAI로 전송되고 저장됩니다. 기업측면에서는 기밀유출 가능성이 있는 것이죠. 그래서 최근들어 기업 내부에서만 사용가능한 Private ChatGPT를 도입하는 기업들이 증가하고 있습니다. 이 글에서는 국내의 Private ChatGPT 도입현황과 방안등에 대해서 알아보도록 하겠습니다.
1. Private ChatGPT란?
Private ChatGPT란 모두에게 오픈되어 사용하는 것이 아니라, 기업 내부에서만 사용가능한 ChatGPT 입니다. 즉, 사용자가 정보를 입력하더라도 외부에 노출될 위험이 없기 때문에 보안 문제를 해결할 수 있을 뿐 아니라, ChatGPT가 가지는 장점을 100% 활용 가능하게 됩니다.
2. 국내기업의 ChatGPT 대응 현황
삼성, SK, LG 등 국내 대기업들은 대부분 자체 ChatGPT를 도입하였거나, 도입을 계획하고 있습니다.
- 삼성 : ChatGTP 오픈후 정보유출등의 문제로 위험을 인지하고 있음
- 애플 : Generative AI 사용금지 조치 (CoPilot, GitHub 사용금지)
- SKT : Private ChatGPT 오픈, 그룹웨어에 ChatGPT 메뉴 탑재, 폐쇄형 서비스로 회사 내부 데이터(대화)로 지속학습
3. Private ChatGPT 도입 방법 및 국내현황
Private ChatGPT 도입 방안은 거대 언어 모델 (LLM)을 직접 개발하는 방법과 OpanAI사의 ChatGPT 모델을 API를 통해 활용하는 방법이 있습니다.
- LLM (Large Language Model) 개발
글로벌 빅테크 기업들이 각기 목적에 맞는 LLM을 개발하여 사용하는데, 자본, 기술, 데이터가 풍부한 일부 기업만이 가능한 방법입니다.국내에서는 Kakao가 자사 포털과 메신저에 적합한 모델을 자체 개발하고 있고, 삼성전자와 네이버는 보안, 한국어, AI반도체칩 등 비즈니스 목적을 위해 공동 개발하고 있습니다.
- OpenAI의 ChatGPT 활용
개발비 부담이 없고 기업 목적에 맞는 서비스 구현이 가능합니다.국내에서는 SK Telecom, posco, LG CNS에서 도입하여 사용하고 있으며, 사내에서 일반 ChatGPT는 접속을 금지하고 있습니다.
4. Private ChatGPT 도입 방안
LLM과 ChatGPT 활용방안별 장단점에 대해서 알아보겠습니다.
1) LLM (Large Language Model) 개발
- 장점
- LLM 모델 자체로 비즈니스 가능- 데이터 자체 관리로 보안 사고 완전 차단
- 단점
- LLM 개발 인프라 및 기술 확보 필요- 많은 인려과 비용, 시간 소요
2) ChatGPT 활용 (Azure Open AI)
- 장점
- 일반 ChatGPT와 동일한 성능과 서비스 가능하며, 빠른 도입 가능- 소규모 인력과 진입 장벽이 낮음
- 단점
- Fine tunning 한계가 존재함
5. Private ChatGPT 도입후 일반적 확산 단계 소개
Private ChatGPT의 도입은 대략 아래 4단계를 통해 진행되는 것이 보통입니다.
1단계 : Raw GPT
- 2021년까지의 데이터만 학습되어 있기 때문에 이후 질문에 대한 답변 불가합니다.
- 답변 가능 범위 : 일반 ChatGPT와 동일
2단계 : 매칭 기반 GPT
- 사내 공통정보에 대한 답변이 가능하지만 검색을 통해 정해진 답변만 가능하다는 단점이 있습니다.
- 답변 가능 범위 : 공통 사내 지식
3단계 : 유사도 기반 GPT
- 질문에 대한 답변을 사내 문서를 바탕으로 제공하기 때문에 문서를 기반으로 거짓 에러가 감소하나 대화형으로 지식 검색은 불가능합니다.
- 답변 가능 범위 : 사내 문서 관련 지식
4단계 : 학습기반 GPT
- 사내지식을 GPT에 직접 학습시켜 사내 지식을 대화형으로 탐색 가능하나 사내식을 학습데이터 형태로 변환이 필요합니다
- 답변 가능 범위 : 사내 전문 지식
6. 결론
일반 ChatGPT를 다양한 개인 계정을 통해 접속하고 사용하는 것은 기업의 입장에서 볼 때, 회사의 기밀 정보 유출 위험과 보안 이슈를 초래할 수 있습니다. 이런 문제점을 해결하고자 많은 국내 기업들이 적극적으로 Private ChatGPT를 도입하고 있으며, 나아가 사업화를 위한 준비를 진행하고 있습니다. 이러한 변화에 능동적으로 대응하기 위해서는 우리가 Private ChatGPT가 무엇인지, 그리고 어떻게 활용되고 있는지를 이해하고 있는 것이 필요합니다.
오늘은 Private ChatGPT가 무엇이고, 도입방법과 방안 그리고 각각의 장단점에 대해서 알아보았습니다. 이 글이 Private ChatGPT 및 국내 도입현황등을 이해하는데 도움이 되었기를 바랍니다.
