‘AI 코딩 얼리어답터’ 기업 6곳이 전하는 생성형 AI 활용팁

생성형 AI가 프로그래밍 분야에 확대되고 있다. AI 코딩 도구를 미리 도입한 기업은 현재 만족하고 있을까? 어떤 장점과 단점을 발견했을까? AI 코딩 도구를 미리 활용하고 있는 기업 6곳에 그 잠재력에 대해 물어보았다.
 

생성형 AI는 이미 IT 영역, 특히 소프트웨어 개발 분야에 상당한 영향을 미치고 있다. 코드 생성 및 문서화, 테스트 케이스 생성 및 테스트 자동화, 코드 최적화 및 리팩터링 같은 작업에서 생성형 AI가 도입되는 것이다.

AI 코딩 도구 기술은 여전히 초기 단계 수준이기에 많은 기술 리더와 소프트웨어 개발팀이 시행착오를 겪을 확률이 높다. AI 코딩 도구를 미리 도입한 기업들이 그 후기를 공유해주었다.

앱 개발 수명 주기 전반에 걸친 지원
인도의 SaaS 업체 프레쉬웍스(Freshworks)의 CIO인 프라사드 라마크리슈난은 “생성형 AI의 방대한 정보에 힘입어 질문과 답변을 활용한 프로그래밍의 장을 열었다”라고 설명했다.

라마크리슈난은 "책상 옆에 브레인스토밍할 수 있는 동료가 있다고 보면 된다”라며 “생성형 AI를 처음 도입한 후 우리 팀은 몇 주가 아닌 단 며칠 만에 코드를 짤 수 있었다”라고 밝혔다.

라마크리슈난은 소프트웨어 개발 수명 주기에서 성공의 열쇠는 QA(Quality Assurance)와 검증 프로세스라고 표현했다. 그는 “개발 조직의 성숙도는 QA에 대한 투자 규모와 유형으로 쉽게 측정할 수 있다”라며 “생성형 AI는 코드 리뷰를 수행하고 잠재적인 문제를 조기에 발견하는 데 도움을 준다”라고 밝혔다.

또한 생성형 AI는 자동화를 통해 테스트 시간을 단축한다고 라마크리슈난은 설명했다. 그는 “생성형 AI는 숨겨진 결함과 취약성을 식별하는 이상 징후 탐지 수준을 높여준다”라고 밝혔다.

금융 기업 뱅가드(Vanguard)의 CIO 니틴 탄돈은 검토를 철저히 하는 식으로 안전고 빠르게 생성형 AI를 테스트하고 있다. 탄돈은 “소프트웨어 및 코딩 개발 영역은 생성형 AI 실험을 하면 좋은 분야다. 콘텐츠 개발 및 지식 관리 분야와 더불어 운영 효율성을 높여준다. 실험할 가치가 충분히 있다”라고 설명했다.

탄돈에 따르면, 뱅가드는 AI 코딩 도구를 파일럿 형태로 이용하면서 다양한 장점을 발견했다. 가령 코드 생성, 디버깅 과정을 간소화하고 코드 일관성을 유지하는 데 도움을 받았다.

탄돈은 “주니어 개발자의 생산성이 많이 높아졌는데, 이 부분은 아직 계속 모니터링과 실험을 해야 한다. 또한 개발자와 데이터 엔지니어의 생산성을 높이기 위해 LLM에 우리 코드를 학습시키는 방안을 검토 중이다”라며 “뱅가드에 개발자 수가 많다는 점을 감안하면, 약간의 생산성 증진은 서비스 전체에 엄청난 가치로 이어진다”라고 설명했다.

B2B 금융 기술 업체인 모먼트(Momnt)는 깃허브 코파일럿을 사용해 코드를 자동 완성하고 있다. 엔지니어링 및 QA 전문가로 구성된 모먼트의 소프트웨어 개발팀은 깃허브 코파일럿을 사용하여 대출 플랫폼 개발을 지원하고 있다.

모먼트의 사장 겸 CTO인 브라이언 레인하트는 “소프트웨어 개발자와 엔지니어는 AI와 생성형 AI 도구로 다양한 실험을 수행하고 있다. QA 엔지니어도 비슷하게 테스트에 들어가는 시간을 줄이며 테스트 품질도 높이고 있다”라고 밝혔다.

레인하트는 “새 솔루션 및 생성형 AI와 관련해서 내부 반응은 긍정적이다”라며 “직원들은 계속해서 호기심을 갖고 일상 프로세스에 구현할 새로운 도구를 찾고 있다. 이를 통해 일상 업무가 간소화됐고 전반적인 팀 효율성이 높아지고 있다”라고 밝혔다.

레인하트에 따르면, 개발팀이 AI 코딩 도구에 점점 더 익숙해지면 도구에 대한 이해를 바탕으로 새로운 비즈니스 시나리오를 찾을 수 있다. 그런 시나리오는 기업에 더 큰 가치를 창출할 수 있다. 레인하트는 “예를 들어, 애플리케이션 요청을 보내기 위해 필요한 코드를 생성형 AI가 완벽히 생성할 수 있다면, 작업 일정이 크게 단축된다”라며 “단축된 시간 덕에 엔지니어는 물론 팀 전체가 프로젝트 전반에 창의적으로 혹은 전략적으로 접근하고 개선 방법을 더 생각할 수 있다”라고 밝혔다.

소프트웨어 회사 줌인포(ZoomInfo)는 작년에 기업용 생성형 AI 도구가 출시되자마자 바로 도입했다. 줌인포는 특히 소프트웨어 개발 조직에 깃허브 코파일럿을 지원했다. 그리고 깃허브 코파일럿으로 AI 가능성을 확인한 줌인포는 개발 영역뿐만 아니라 조직 전체에 생성형 AI를 통합하기 시작했다. 그렇게 해서 큰 효과를 본 영역이 문서 검색 및 요약이다.

줌인포 CTO 알리 다스단은 “소프트웨어 개발에는 방대한 문서가 필요하다”라며 “제품 요구 사항 및 아키텍처 설계와 같은 문서는 꼭 필요하다. 하지만 개발팀에서 해당 문서를 만들고 검토하는 데는 많은 시간이 필요하다. 생성형 AI는 이러한 문서를 단 몇 분 만에 요약하고 색인화하여 작업 시간을 상당히 줄여줬다”라고 설명했다.

줌인포는 거의 모든 소프트웨어 개발자에 AI 코딩 도구 접근권을 주고 있다. 다스단은 “엔지니어링팀은 AI 코딩 도구가 생성하는 코드를 무작정 쓰기보다 사전에 자세히 검토하고 있다”라며 그럼에도 이미 AI가 만든 수만 줄의 코드를 활용했으며 덕분에 코드 작성에 필요한 시간을 상당히 줄일 수 있었다”라고 밝혔다.

AI 코딩 도구의 한계와 영향력
생성형 AI를 미리 써본 상당수 기업 리더가 AI 코딩 도구의 수준이 개발자를 대체할 정도는 아니라고 표현한다. IT 서비스 제공업체 BDO 디지털의 데이터 및 AI 실무 책임자인 커스티 티어난도 비슷한 의견을 냈다. 그는 BDO 디지털에서 AI 코딩 도구를 처음 사용했을 때 개발 팀은 ‘흥분의 도가니’였다고 묘사했다.

티어넌은 “처음 코드가 생성될 때는 신기했지만 인간의 전문성을 대체하는 것이 아니라 보강하는 도구라는 사실을 금방 깨달았다”라며 “AI 생성형 코드의 품질과 기능을 보장하기 위해 사람의 감독이 반드시 뒷받침돼야 한다는 사실을 인식했다. 무거운 것을 들 때 AI의 도움을 받는 식이다. AI 코딩 도구를 쓰는 것은 일종의 AI와 파트너십을 맺는 것이다. 그런 파트너십으로 개발자는 전략적인 문제 해결에 집중할 수 있다”라고 밝혔다.

BDO 디지털에 따르면, AI 도구를 잘 쓰려면 기존 워크플로우와 통합하는 것이 중요하다. 티어난은 “단순히 새로운 툴을 도입하는 것 이상으로 AI 도구는 개발팀의 운영, 커뮤니케이션, 협업 방식에 더 큰 영향을 미친다”라며 “성공적으로 통합하려면 모든 개발 관행에서 유연성을 갖고 변화에 적응할 줄 아는 역량이 필요하다”라고 말했다.

BDO 디지털은 생성형 AI가 창의성과 혁신에 매우 큰 영향을 미친다는 것과 체감하고 있다. 티어난은 “일상 작업을 자동화하면서 개발자들은 더 복잡한 문제를 해결하고 더 혁신적인 솔루션을 탐색할 수 있는 여유를 갖게 되었다”라며 “AI가 인간의 창의성과 아이디어의 촉매제 역할을 할 수 있다는 교훈을 얻었다”라고 설명했다.

모먼트의 레인하트에 따르면, 새로운 기술 솔루션을 도입할 때 어려운 과제는 팀이 해당 도구를 어느 정도까지 통합 또는 의존할지 파악하는 것이다. 레인하트는 “모먼트는 ‘사람들에게 자율권과 도움을 주기 위해 기술을 사용한다’라는 가치를 중시한다”라며 “그런 가치 하에 우리는 생성형 AI를 비롯한 AI가 직원을 대체하길 바라지 않는다. 생성형 AI도 마찬가지로 기술을 보완하고 직원의 효율성을 높이는 도구로 쓰려고 한다”라고 밝혔다.

레인하트는 기술 업계 전반에서 생성형 AI 도구를 감독, 구현, 운영할 수 있는 인력에 대한 수요가 늘고 있다고 말했다. 예를 들어, 제품 개발팀에서 일하지만 챗GPT나 코파일럿을 잘 아는 직원에 대한 관심이 높아지는 것이다.

레인하트는 “생성형 AI가 점점 더 널리 보급됨에 따라 AI를 다각도로 이해하고 관련 교육받은 직원이 더 중요해지고 있다”라며 “우리는 다양한 방식으로 새로운 문제를 해결할 수 있는 사람들을 원한다. 그런 사람이 그 지식을 우리 팀에 다시 가져다주기를 기대하고 있다”라고 밝혔다.

모먼트는 소프트웨어 개발 팀원에게 음악, 코미디 등 개인적인 관심 분야에 생성형 AI 도구를 활용해서 경험을 넓혀보라고 장려하고 있다. 그는 “핀테크와 개인적 관심사 모두에 AI를 적용할 수 있다면 어떨까? 교집합 영역을 찾아낼 수 있는 직원이 우리 팀에 많아진다면, 우리팀은 새로운 산업 성장을 주도할 수 있는 독보적인 위치에 서게 될 것이다”라고 설명했다.

의료 기술 회사 리릭(Lyric)은 프로세스 개선을 위해 LLM을 활용했다. 그리고 처음 시작 과정에서 엄청나게 많은 작업을 미리 수행했다. 리릭의 최고 AI 책임자인 악쉐이 샤르마는 “처음 LLM를 이용해 보면 다소 일반화된 결과를 얻을 수 있다. 정확도가 낮고 환각 현상도 발견됐다”라며 “하지만 적절한 엔지니어링과 설계, 그리고 프롬프트를 통해 실험을 실행하면서 단점을 극복하고 여러 성과를 얻으려했다. 실제로 생성형 AI를 지속적으로 평가하기 위해 많은 실험 및 테스트 프레임워크를 구축했다”라고 밝혔다.

프레쉬웍스의 라마크리슈난은 “분명 생성형 AI로 애플리케이션을 시장에 내놓는 속도가 더 빨리질 수 있다. 다만 그러기 위해선 개발자 역량이 뒷받침돼야 하고 그중에서도 프롬프트 엔지니어링 역량이 매우 중요하다. AI 코딩 결과물의 정확도는 요청되는 프롬프트 내용에 수준에 따라 달라진다”라고 밝혔다.

또한 라마크리슈난은 AI 코드의 정확성을 확인하기 위해 숙련된 개발자의 검증을 받아야 한다고 덧붙였다. 라마크리슈난은 “너무나도 중요한 부분이라 다시 한번 강조하고 싶다. AI가 생성한 코드는 사람이 반드시 검토해야 한다. AI는 업무 생산성 향상에 도움이 되지만 완벽하지 않다. 감독이 꼭 필요하다”라고 밝혔다.

또한 AI를 사용하면 윤리적 문제를 마주치기 마련이다. 편향된 결과물이 대표적인 문제다. 그런 의미에서 검토를 철저하게 하지 않으면 의도치 않은 결과를 초래할 수 있다고 라마크리슈난은 설명했다. 그는 “정보 보안 측면에서 고려해야 할 사항도 많아진다”라며 “이제 악의적인 공격자들은 생성형 AI로 시스템 수백만 개에 악성 코드를 주입할 수 있다”라고 설명했다.

라마크리슈난은 AI를 효과적으로 활용하기 위해 인력 재교육이 더욱 중요해질 것이라고말했다. 그는 "생성형 AI가 가져올 생산성 향상이라는 가치는 아직 제대로 다 드러나지 않았다”라며 “시간이 지나면 지금과는 차원이 다른 가치를 목격할 수 있을 것”라고 라고 밝혔다.

개발자 시각으로 바라보기
생성형 AI가 개발팀에 미치는 영향을 파악하려면 팀 구성원에게 피드백을 받아야 한다. 일례로 줌인포는 깃허브 코파일럿 내부 피드백을 수집하기 위해 개발자 약 80명을 대상으로 설문조사를 실시했다. 그리고 코파일럿에서 눈에 띄는 장점 2가지를 파악할 수 있었다.

첫째, 상용구와 반복적인 코드 생성을 AI에게 맡김으로써 개발자는 복잡한 로직에 집중할 수 있었다. 둘째, 단위 테스트를 작성하는 데 걸리는 시간을 대폭 단축할 수 있었다. 줌인포의 다스단은 “많은 직원이 유용한 코드 제안과 자동 완성 기능으로 코딩 속도가 빨라졌다고 답했다”라고 설명했다.

전체 프로세스도 보다 효율적으로 진행됐다. 줌인포 직원 대다수가 코파일럿 덕분에 작업을 완료하는 데 걸리는 시간이 평균 20% 단축되었다고 말했다. 약 3분의 2는 생성형 AI 기술을 사용하여 스프린트당 더 많은 작업을 완료할 수 있었다고 답했으며, 약 4분의 3은 작업의 품질이 향상되었다고 표현했다.

다스단은 “초기 경험을 비추어볼 때, 앞으로 생성형 AI 도구는 엔지니어의 생산성을 계속 높일 뿐만 아니라 실제 프로덕션에 쓰이는 코드를 일부 작성해 주면서 전체 작업 시간을 줄여줄 것으로 예상된다”라고 말했다.

생성형 AI가 결합된 소프트웨어 개발의 미래
BDO 디지털의 티어난은 생성형 AI가 개발 도구로서 그 중요성이 더욱 커질 것이라고 자신했다. 그는 “생성형 AI로 엄청난 생산성 향상이 이뤄질 것으로 보고 있다”라며 “소프트웨어 개발 구조에 AI가 더욱 통합됨에 따라 개발 시간과 비용이 획기적으로 줄어들 것이다”라고 설명했다. 예를 들어 상용구 코드 생성을 자동화하고 버그 수정을 위한 실시간 제안을 제공하면 특정 개발 작업에 전통적으로 필요한 시간을 절반으로 줄일 수 있다고 티어난은 밝혔다.

티어난은 “오히려 생성형 AI를 통해 더 복잡한 문제를 더 효율적으로 해결하는 방법에 집중해야 한다”라며 “AI가 일상적인 측면을 처리하면 개발자는 전략적 혁신에 집중하여 소프트웨어 솔루션의 한계를 뛰어넘을 수 있을 것”이라고 설명했다.
ciokr@idg.co.kr