'세금 결산을 지원하는 생성형 AI 환경 구축'… H&R블록 CIO

세무 관리 기업 H&R블록(H&R Block)은 마감일 전에 세금 신고를 준비하는 고객을 돕기 위해 생성형 AI를 활용하고 있다.
 

H&R블록은 수년 동안 비즈니스 전반에 최신 기술을 도입해 왔기 때문에 AI와 머신러닝(ML)에도 익숙했다. 이제는 본격적으로 생성형 AI에 뛰어들었다. 고객 대면 애플리케이션부터 엔지니어링, 마케팅, 법무와 같은 내부 기능에 이르기까지 비즈니스의 거의 모든 측면을 혁신할 잠재력이 있다고 봤기 때문이다.

H&R블록의 CIO 앨런 로우든은 "10년 넘게 전통적인 AI와 머신러닝을 사용해 왔으며, 주로 수백만 건의 세금 신고서를 분석해 수천 개의 모델을 구축하고 적용했다. 사기 탐지부터 개인화, 고객의 절세 방안을 찾는 데 도움이 되는 지능형 세금 도우미에 이르기까지 다양한 사용 사례를 위해 AI를 여러 제품에 배포해 왔다"라고 말했다.

이번 세금 결산 때 H&R블록은 오랜 파트너인 마이크로소프트와 긴밀히 협력해 6,900만 명의 고객이 스스로 세금을 신고할 수 있도록 생성형 AI를 적용했다. 양사는 오랫동안 강력한 파트너십을 유지해 왔고, H&R블록은 인프라의 90%를 퍼블릭 클라우드로 전환하는 데 마이크로소프트의 도움을 받았다. 지난해 H&R블록이 생성형 AI에 뛰어들었을 때 마이크로소프트를 선택한 이유에 대해 로우든은 파트너십 측면도 있었지만 오픈AI와의 제휴 및 투자 때문이기도 했다고 말했다. 한편 마이크로소프트는 애저 오픈AI(Azure OpenAI)를 사용하며 솔루션 개발 및 배포에 우선순위를 두고 있는 기업들을 'AI 100' 목록에 선정했는데, H&R블록 역시 여기에 포함됐다.

지난해 12월 H&R블록은 개인, 자영업자 및 소규모 비즈니스 소유자가 스스로 세금을 준비하는 과정을 간소화할 수 있도록 지원하는 생성형 AI 환경인 'AI 택스 어시스트(AI Tax Assist)'를 공개했다. AI 택스 어시스트는 애저 오픈AI 서비스를 활용해 세금 양식에 대한 정보부터 세금 규칙 및 법률 변경 안내까지 모든 세금 관련 질문에 답변을 제공한다.

로우든은 고객이 자연어로 질문하는 과정이 정보를 검색하는 방식에 있어 표준적인 온라인 지원과는 다르기 때문에 항상 직원이 도울 수 있도록 하고 있다고 설명했다. 그는 "이런 솔루션은 사람이 함께할 때 가장 효과적이라고 믿기 때문에 생성형 AI 솔루션을 배포하는 모든 곳에 직원의 도움을 요청할 수 있는 옵션을 제공하고 있다"라고 말했다.

신중하게 진행하기
H&R블록의 경영진과 이사회는 생성형 AI의 가능성에 매료됐다. 하지만 로우든은 프로젝트를 완전히 받아들이기 전에 특히 안전과 데이터 프라이버시에 관한 몇 가지 우려 사항을 해결해야 했다고 설명했다.

그는 "편향 위험이 높은 AI를 구현하려는 사람은 아무도 없다. 따라서 이에 대한 거버넌스와 통제 장치를 마련하는 데 주의를 기울였다. 물론 정확성과 퍼블릭 데이터 코퍼스를 사용하는 것에 대한 우려도 있었기 때문에 자체적으로 구축한 데이터를 사용했다"라고 말했다.

로우든의 팀은 지난해 8월부터 본격적으로 AI 택스 어시스트 작업을 시작했다. 그는 "H&R블록에서는 핵심 세무 기능에 기술을 포함하려면 12월까지는 윤곽이 드러나야 한다. 아이디어에서 출시까지 꽤 짧은 기간이었다"라고 회고했다.

속도를 높이기 위해 로우든은 실험 문화를 장려하고 '빠르게 배우기 위해 빠르게 움직이는' 프로젝트를 위한 전문 팀을 구성했다.

그는 "다른 모든 곳에 있는 구조를 버리고 최고의 인재로 소규모 팀을 구성한 뒤, 명확한 목표를 세우고 방해 요소를 제거했다. 제품, 경험 디자인, 엔지니어링, 데이터 과학 등 많은 팀과 동일한 역할을 수행하지만, 팀을 소규모로 유지하면서 방해가 되는 모든 운영 관련 업무를 분리했다"라고 말했다.

데이터 품질 보장
로우든의 팀은 세무 변호사, 공인 회계사, 공인 중개사 등으로 구성된 회사의 연구소인 H&R블록 택스 인스티튜트에 데이터 코퍼스를 의뢰했다. 연구소는 끊임없이 변화하는 연방 및 주 세법의 환경을 연구 및 분석하고 이에 대처하는 방법에 대한 기사를 게재하고 있다.

로우든은 "우리가 발견한 문제는 LLM에 제공할 콘텐츠, 즉 소스 문제를 제대로 확보하는 것이었다. 콘텐츠의 품질이 가장 중요하다"라고 말했다.

택스 인스티튜트는 AI 택스 어시스트를 학습시키는 귀중한 데이터를 제공했지만, 로우든과 그의 팀은 생성형 AI에 처음 진출하면서 올바른 콘텐츠 관리 전략을 수립이 가장 중요하다는 점을 배웠다.

로우든은 "지금 알고 있는 것을 미리 알았더라면 프로젝트 초기에 소스 콘텐츠에 훨씬 더 집중했을 것이다. 도메인 전문가가 정확성을 위해 콘텐츠를 업데이트하고 정보를 보다 쉽게 관리하고 제어할 수 있도록 태그를 지정하는 성숙한 콘텐츠 관리 프로세스를 개발하는 작업이 매우 중요하다"라고 설명했다.

콘텐츠 무결성을 위한 3단계 계층
콘텐츠 무결성을 보장하기 위해 또 중요했던 부분은 3단계 계층으로 구성된 테스트였다. 그중 첫 번째는 안전 및 데이터 프라이버시 테스트였다.

로우든은 "마이크로소프트는 이 테스트에서 팀이 도구를 사용하고 자체적인 생성형 AI 침투 테스트를 진행하도록 지원하는 등 정말 많은 도움을 줬다"라고 언급했다.

두 번째 계층은 AI 택스 어시스트가 최대한 정확한 답변을 제공할 수 있도록 하는 정확성과 콘텐츠 엔지니어링 테스트였다. 마지막으로 세 번째는 가드레일이었다. 로우든은 "세금과 관련이 없는 질문처럼 반드시 답변하지 않아도 되는 질문도 많았다"라고 덧붙였다.

그는 지난 2월 중순까지 AI 택스 어시스트로 인해 채팅량이 꾸준히 감소해 전년 대비 약 3,400시간의 노동 시간을 절감했다고 말했다. H&R블록의 IT팀은 음성 기반 생성형 AI 솔루션을 통해 발신자를 라우팅하는 고객 경험을 시범 운영했으며, 2월 중순을 기점으로 가상 비서의 전체 통화 중 비중은 52%까지 증가했다. 로우든은 이제 전화 고객의 절반 미만만 실제 상담원에게 답변을 요청하기 때문에 2,700시간 이상의 노동 시간을 절감한 것이라며, 상담원이 도움을 필요로 하는 고객에게 집중할 수 있는 여유를 얻었다고 언급했다.

진행 중인 계획
H&R블록은 AI 택스 어시스트의 성공에 힘입어 R&D 파이프라인에 여러 생성형 AI 프로젝트를 추가하고 있다. 로우든은 "엔지니어링, 마케팅, 법무 등 모든 부서에 걸쳐 생성형 AI를 검토하고 있다. 모든 부서에서 이런 솔루션의 이점을 누릴 수 있을 전망이다. 아직 초기 단계지만 파일럿에 대한 반응은 긍정적이다"라고 설명했다.

이때 그는 생성형 AI로 작업하려면 불편함을 감수하는 데 익숙해져야 한다고 조언했다. 그는 "이런 솔루션은 기존의 제품 개발 프로젝트와는 상당히 다르다. 모든 코드를 작성하지 않으며, 환각이 불가피하기 때문에 테스트 장치와 위험을 완화하는 데 도움이 되는 모델을 구축할 때 더 많은 생각이 들어가야 한다. 팀과 함께 다양한 접근 방식을 시도하는 데 익숙해져야 한다"라고 말했다.

과거의 혁신 기술과 비교해도 생성형 AI는 무서운 속도로 진화하고 있다. 로우든은 새로운 제품을 출시할 때마다 오픈AI 또는 애저 오픈AI 서비스에 강력한 새 기능이 있을 것이라는 생각 때문에 불만을 갖기 쉽다면서, 이런 기술을 수용하려면 변화가 위험을 수반하지만 잠재적으로 높은 보상을 가져온다는 사실을 인식하고, 중간에 기꺼이 방향을 전환할 의지가 필요하다고 설명했다.

그는 "두려워하지 말아야 한다. 모든 CIO 및 CTO는 이것이 업무의 미래라는 사실을 인식하는 게 중요하다고 생각한다. 앞으로는 업무에서 어떤 형태로든 AI 비서를 사용하게 될 것이다. 생성형 AI가 대중화되고 팀과 직원들이 도구에 익숙해질수록 더 많은 영감을 얻고 자신의 업무와 고객에게 이점을 줄 만한 아이디어를 떠올릴 수 있을 것이다"라고 말했다. ciokr@idg.co.kr