인터뷰 | “SK브로드밴드가 생성형 AI를 빠르게 도입한 비결은...” 이철행 AIX 개발 담당

요즘 어디서든 미래 전략을 논의할 때 빠지지 않는 주제가 생성형 AI일 것이다. 시장에서 앞서가려는 기업이라면 특히 생성형 AI 활용 방안을 찾느라 분주하다. 하지만 막상 생성형 AI를 도입하려 하면 여러 장애물을 마주치기 마련이다. 데이터 유출 위험, 환각으로 인한 품질 문제, 기술 인프라 구축, 예산 확보 등이 대표적이다. 거기에 인력 채용이나 경영진 설득까지 극복해야 할 어려움은 계속 나타난다.

이런 가운데 발 빠르게 생성형 AI 전략을 구체화한 국내 기업이 있다. 바로 SK브로드밴드다. SK브로드밴드는 ‘AIX 개발’이란 조직을 필두로 AI 기술 프로젝트를 확산 및 내재화하고 구성원의 AI 역량을 높이고 있다. 흥미로운 것은 AIX 개발이 이전에 DT(Digital Transformation)를 주도한 부서라는 점이다. 단순히 생성형 AI가 신기술이라서 DT 조직이 이끈 것이 아니다. 그동안 축적한 수많은 DT 프로젝트 자산이 생성형 AI의 연속선 위에 있기 때문이라고 한다. SK브로드밴드 AIX개발 총괄인 이철행 담당을 만나 SK브로드밴드의 생성형 AI 프로젝트와 관련한 성과를 들어보았다.
 

전사에 혁신 DNA 심는 조직 ‘AIX 개발’
이철행 AIX개발 담당은 1994년 SK텔레콤에 입사한 후 2016년까지 IT 기술 개발 조직에 근무했으며, 2017년에 SK텔레콤의 자회사인 SK브로드밴드로 합류했다. 당시 SK브로드밴드에선 전사 DT 확산을 위해 ‘DT추진 본부’가 신설됐는데 이철행 담당이 해당 조직의 본부장 역할을 맡았다. ‘DT 추진본부’는 AI 기술 활용성을 높이겠다는 목표 하에 2019년 ‘AI·DT 추진그룹’으로 변경되었으며, 생성형 AI 붐이 일던 2023년 말 조직 개편을 통해 ‘AIX 개발’로 바뀌었다. AIX에서 X는 ‘트랜스포매이션(Transformation)’의 약자다. AI로 핵심 비즈니스에 적용할 각종 기술, 시스템, 플랫폼, 교육 등을 전환하겠다는 뜻이 담겨있다.

AIX 개발 조직이 하는 일은 크게 4가지다. 먼저 레거시 IT를 관리한다. 여기서 말하는 레거시 IT는 SK브로드밴드의 주력 상품인 인터넷 서비스와 IPTV의 근간이 되는 시스템은 물론 그룹웨어, ERP, HR 시스템 등을 일컫는다. 두 번째는 데이터 영역이다. 현업 부서가 데이터 구축, 제공, 분석 등을 요청하면 전문 데이터 분석가가 나서 과제를 수행한다. 세 번째는 DT 관련 업무다. 대표적으로 2023년 전사 하둡 기반 데이터 시스템을 퍼블릭 클라우드 환경으로 전환했다. 마지막으로 생성형 AI와 관련된 프로젝트를 주도적으로 이끌고 있다.

‘AIX개발’이라는 조직명에는 SK브로드밴드의 기술적 지향점이 반영 되어있다. 이철행 담당은 “AI는 하루아침에 만들거나 다룰 수 있는 것이 아니다. 결국 생성형 AI도 레거시 IT, DT인프라 하에 운영되기 때문에 DT 부서가 AI를 보다 더 잘 이끌 수 있다고 생각한다”라며 “2019년도에 등장한 AI와 지금의 AI는 완전히 다른 형태다. AIX 개발 조직은 빠르게 등장하는 수많은 AI 기술 중 어떤 것이 우리 조직 미션에 맞는지 선별하고 있다”라고 설명했다.

6개 팀으로 나누어져 있는 AIX 개발 조직에는 75여 명 직원이 소속돼있다. 그 외 필요한 기술 인력 운영은 SK C&C 등과 진행하고 있다. AIX 개발 조직의 독특한 특징은 레거시 IT 관리팀과 AI 및 데이터 같이 새로운 기술을 다루는 팀이 공존하는 구조라는 점이다. 레거시 IT팀은 아무래도 시스템의 안정성을 중요하고 AI 연구팀은 새로운 기술 환경을 요구할 수밖에 없다. 그래서 이철행 담당은 “일반적으로 두 영역이 분리 운영되는 경우가 많다. 서로 다른 성격의 기술팀이 한 조직안에 있으니 오히려 각 팀의 요구사항을 빠르게 파악하고 중재하기 용이해졌다”라며 “덕분에 의사결정 속도가 매우 빨라졌다”라고 설명했다.

데이터 유출 위험성 및 환각 문제, ‘랜딩존’과 ‘PoC’으로 대처
SK브로드밴드는 작년 한 해 동안 여러 생성형 AI 프로젝트를 추진했다. 일단 사내 구성원의 생성형 AI 기술 역량을 키웠다. 특히 프롬프트 엔지니어링 활용법을 알려주기 위해 각종 교육과 툴을 지원했다. 내부 반응은 뜨거웠다. 프롬프트 엔지니어링 교육 6개 강좌는 1시간 만에 모집 마감됐고, 추가로 개설한 4개 강좌 또한 금세 마감됐다고 한다. 이외에도 챗GPT와 달리(DALL·E)2 같은 생성형 AI 사용을 독려하고, 전사 구성원 대상으로 생성형 AI 활용 아이디어 경진 대회를 개최해 구성원의 관심과 참여를 유도했다.

이철행 담당은 “MS 오피스를 쓰는 사람과 쓰지 않은 사람 사이에 업무 생산성에 차이가 있는 것처럼 앞으로는 생성형 AI 툴도 업무 생산성을 좌우하는 중요한 도구가 될 것이다”라며 “20년동안 IT 업계에 있던 사람으로서 생성형 AI를 보고 있자면 과거 인터넷 기술 시대가 연상된다. 빠르게 따라가지 않으면 도태될 수 있다는 위기감, 나아가 두려움까지 느껴질 때가 있다. 사내 교육과 경진 대회를 통해, AI라는 것이 먼 미래의 대상이 아닌 당장 업무에 적용할 수 있는 기술이라는 점을 자연스럽게 전하고자 했다”라고 설명했다.

교육과 더불어 AIX 개발 조직은 기술 실험을 적극 시도했다. 주요 클라우드 기업과 PoC(Proof of Concept)를 진행하며 내재화 방안을 모색했고, 고객센터 상담 업무에 활용되는 챗봇에 생성형 AI를 결합했다. 테스트 결과, 생성형 AI를 결합한 챗봇은 이전 대비 훨씬 더 많은 문의를 처리할 수 있었다고 한다. 온라인 마케팅 성과를 높이기 위해 생성형 AI와 데이터 분석 결과를 결합해 홈페이지 UX를 변경하고 잠재 고객을 찾기도 했다. 최근에는 IPTV 서비스 내 음성 명령 기능에 생성형 AI를 활용하는 방법을 연구 중이다. 이철행 담당은 “기존 음성 명령 기능은 한 번에 한 가지의 질문만 할 수 있지만, 챗GPT와 같은 기술을 활용하면 꼬리 물기 식으로 여러 번의 질문과 답변이 오갈 수 있는 ‘멀티턴’구조가 가능해진다”라고 설명했다.

데이터 유출 문제는 DT 프로젝트에서 구축해 놓은 클라우드 서비스 내 랜딩존으로 해결했다. 랜딩존은 기존 클라우드 서비스 업체가 정해 놓은 보안 정책 외에 고객이 추가 접근 관리 및 보안 정책을 적용할 수 있는 시스템을 말한다. 랜딩존에서는 데이터 접근과 관련한 권한을 쉽게 통제할 수 있는데, AIX 개발 조직은 생성형 AI와 관련된 모든 데이터를 랜딩존 내부 폐쇄망에서만 처리해 사내 데이터 유출 위험을 최소화했다. 또한 구성원의 편의를 위해 사내 그룹웨어 메인 화면에 사내 전용 챗GPT 접속 링크를 제공했다.

이철행 담당은 “미리 클라우드 환경을 구축해두었던 것이 공교롭게 생성형AI 활용의 데이터 유출 위험 문제를 해결하기 위한 기반으로 작용했다”라며 “추가적으로 클라우드 서비스 업체와 협의해 데이터 누출을 방지하였는데, 우리 폐쇄망에 사용된 챗GPT 입력값은 타 AI기업에서 활용하지 못하도록 계약했다”라고 설명했다.
 

기존 구축된 데이터 거버넌스 및 클라우드 거버넌스를 활용하여 AI 거버넌스를 마련했다. 현업에서 AI 활용에 대한 과제를 제시하면 AI R&D팀과 AI 엔지니어링팀에서는 과제 적합성에 대한 검토를, 재무 조직에서는 예산 점검을, 법무 조직에서는 컴플라이언스 및 고객 정보 보호 이슈 등을 검토하는 식이다.

이철행 담당은 “생성형AI라는 신기술을 활용하려다 보니, 현재는 직원들의 아이디어나 문의가 중구난방일 수 있다. 특별한 제한 없이 수용하고 있다. 대신 거버넌스 관리 팀이 민첩하게 검토하고 진행할 수 있는 구조를 지원했다”라고 설명했다.

성숙되지 않은 기술을 도입하는 것에 대한 부담감은 없었을까? 이철행 담당은 “생성형 AI 결과물이 기대치에 못 미칠 때가 있다. 하지만 현재까지 많은 가능성을 보여주었으며 앞으로 AI가 대세가 될 것이라고 확신한다. 어떤 기술이든 처음부터 완벽하지는 않다. 결국 시간이 지나면 현재의 단점은 어느 정도 극복될 것이다. 문제는 그 단점이 극복됐을 때 우리 구성원이 준비되지 않으면, 즉 AI가 생활화 되어있지 않으면 ‘성숙된’ AI를 적절히 활용할 수 없다는 것이다. 안 쓰던 기술을 하루아침에 따라잡을 수는 없다. 어떤 기술이든 내재화하는 데 시간이 필요하다. SK브로드밴드는 AI로 앞서가겠다는 목표 하에 선제적으로 대비하고 있다”라고 밝혔다.

환각 문제에 대해서도 비슷한 철학으로 대응하고 있다. 이철행 담당은 현재 기술 수준에서 AI 모델의 환각 현상을 100% 없앨 수는 없지만, 여러 시도를 통해 직접 경험해보면서 환각의 수준을 분석해보고 각 모델 및 서비스의 차이를 살펴보고 있다고 전했다. 리스크를 최소화하고자 대고객 서비스에 생성형 AI를 적용하기 전에 내부 직원용 서비스에 생성형 AI를 도입하고 있다. 예를 들어 기존 고객 상담 챗봇은 질문의 의도를 제대로 파악하지 못할 경우 엉뚱한 답변을 내놓는 경우가 많았다. 이에 대한 보완책으로 생성형 AI를 선택했다. 그 결과, 엉뚱한 답변을 하는 대신 상담원에게 우선 노출 시키도록 개선할 수 있었다.
 
AIX 개발 조직은 기술 선봉장일 뿐···학습 문화 만드는데 집중
생성형 AI를 제대로 도입하기 위해서는, 기술적 제반 마련뿐만 아니라 변화에 거부감이 있을 수 있는 임직원이 변화를 수용하고 받아들일 수 있도록 해야한다. 변화에 적응하는 조직을 만들기 위해 이철행 담당은 ‘학습 문화’가 관건이라고 강조했다. 그는 과거 DT 추진본부를 이끌 때부터 구성원에게 데이터 분석 역량을 강조했으며, ‘시민 데이터 과학자(Citizen Data Scientist, CDS)’, ‘데이터 인플루언서’, ‘데이터 엑스퍼트’로 전문성 수준을 나눠 전 구성원에게 데이터 분석 교육을 진행했다. 그때 만든 학습 인프라 및 교육 문화가 현재 생성형 AI 기술을 받아들이는데 중요한 역할을 하고 있다고 이철행 담당은 전했다.

실무적인 효과도 있었는데, 가령 현업 곳곳에서 데이터 전처리 작업이 필요한 경우 이미 사내에 데이터 전문 인력이 내부에 구축되어 있어 빠르게 진행될 수 있었다고 한다. 이철행 담당은 “최근 사내 교육 프로그램이 빠르게 마감되는 것을 보면 우리 구성원이 변화나 새 기술에 관심이 많은 것으로 보인다. 이러한 학습 문화에 AIX 개발 부서장으로 자부심을 갖고 있다”라고 설명했다.

이에 더해 이철행 담당은 경영진 차원의 지원이 생성형 AI 프로젝트의 추진력을 만드는 데 한몫했다고 강조했다. SK브로드밴드의 모회사인 SK텔레콤은 작년 일명 ‘AI 피라미드’라는 전략을 발표하고 앞으로 글로벌 AI 기업으로 나아가겠다는 포부를 밝힌 바 있다. AI 피라미드는 AI 기술 전략을 AI 서비스, AIX(AI전환), AI 인프라로 나누어 투자한다는 계획이다. SK텔레콤은 2월 초 실적 컨퍼런스 콜에서, 비통신 분야 핵심 사업이자 미래 먹거리 사업으로 AI를 꼽았으며, AI 기반 클라우드 서비스, AI 비서 등의 성과를 강조하기도 했다.  SK브로드밴드의 AIX는 특히 중간 AIX 전환 영역 기술을 담당하고 있다.
 

이철행 담당은 ”임원 입장에선 한정된 자원을 효율적을 쓰는 방안을 고민할 수밖에 없다. 현재 AI의 중요성이 커진 만큼 AI 투자 배분을 늘리고 있다. AI에 대한 투자도 분명 타사보다 많다고 생각한다”라며 “AI 피라미드 전략으로 SK텔레콤과 SK브로드밴드는 원팀으로서 AI를 미래 핵심 전략으로 여기며, 이미 시너지가 나타나고 있다”라고 설명했다.

이철행 담당은 올해 생성형 AI 교육 과정을 3배 늘릴 예정이다. 본사 외 다른 지사의 구성원 및 임원 등에 맞춤형 교육을 제공하고 오프라인 외 온라인 교육 과정도 늘릴 계획이다.

이철행 담당은 AI 등 신기술과 관련하여 스스로도 꾸준히 학습하고 있다. 이철행 담당은 “구성원에게 자발적으로 학습하는 문화를 만들자고 해놓고, 이를 총괄하는 사람이 모범이 되지 못하면 그 자리에 있을 자격이 없다고 생각한다”라며 “실적만 강조하며 신기술에 부정적인 의견을 보이기 보다 신기술 도입을 격려하고 구성원의 커리어에 도움이 되는 그런 부서를 만들고 싶다”라고 밝혔다.   
jihyun_lee@idg.co.kr