주니어의 질문: 이제 AI 모델링은 빅테크의 전유물일까요?
"저는 AI 서비스 서빙 엔지니어링 직무로 신한은행에 들어왔습니다. 원래 AI 모델링 쪽으로 가고 싶었고, 그래서 대학원에 가서 연구를 해보려고 했습니다.(NLP, 추천시스템 관심) 그런데 최근의 추세는 모델 개발은 OpenAI나 Google처럼 빅테크의 전유물이 되었다고 느꼈고, 한국에서 대학원을 나오더라도 제대로 모델링을 할 일이 없을 거라고 생각이 들었습니다... 그래서 산업계에 빨리 진출해서 경험을 쌓고자 했고, Fine-tuning, RAG 활용, 서빙과 배포, 추천 모델 구현 정도는 산업계에서도 할 수 있다고 생각했습니다. AI 모델링 관련한 저의 생각에 대해서 강사님께서는 어떻게 생각하시나요?(대학원 진학 등)"
신한은행 신입행원 대상으로 진행했던 <생성형 AI로 ‘우리’가 더 똑똑해지기> 강의의 사후 설문에서 받은 또 하나의 질문. 제가 잘 모르는 분야라서 답변을 어떻게 할지 고민이 됐지만 그래도 생각의 씨앗은 드릴 수 있을 것 같아 조심스럽게 이메일을 보냈습니다.
관련 글 모음: 👇
X님, 질문 남겨주셔서 감사합니다.
우선 저 자신이 AI 엔지니어는 아니라서 깊은 답변을 드리기 어려운 점 양해 부탁드려요.
말씀하신대로 Fine-tuning과 RAG, 서빙과 배포, 추천 모델 구현 모두 산업계에서 아주 활발하게 이루어지고 있는 활동입니다. 범용 LLM을 은행 도메인에 맞게 튜닝하여 사용하는 건 아마 여러 은행에서 하고 있을 거예요.
하지만 "모델 개발은 OpenAI나 Google처럼 빅테크의 전유물이 되었다"는 건 조금 의문입니다. 특정한 도메인에서 특화된 모델을 처음부터 개발하는 게 여전히 경쟁력이 있다고 보기 때문입니다. 예를 들어 제가 소속된 XL8은 인간이 번역해서 검수한 미디어 자막 데이터를 세계에서 가장 많이 가지고 있는 AI 회사입니다. 이 데이터를 이용해 자막 번역을 제공하기 때문에, 대부분의 언어쌍에서 일반적인 LLM이나 번역엔진보다 더 나은 결과를 보여준다고 평가받고 있어요. 저는 이게 데이터의 양이 조금 적더라도 그 질이 뛰어나다면 충분히 빅테크의 LLM에 대적할 만한 결과물을 만들어낼 수 있다는 증거로 여겨집니다.
특히, (아마 저보다 더 잘 아시겠지만) 요즘 소규모 모델에 대한 관심도 더 많이 늘어나고 있는 추세니까요. 비용이 적고, 특정 도메인에 더 빠르게 적응할 수 있고, 온디바이스로 올리기 쉬우니 프라이버시 문제도 적죠. 게다가 (이미 쌓은 데이터가 많을) 금융 도메인에서의 NLP, 추천 시스템은 빅테크의 모델보다 더 나은 성능을 보일 수 있을 거라고 봅니다. 성능에 더 민감한 도메인이기도 하고요.
대학원 진학에 대해서는 제가 10년도 전에 석사까지만 나왔고, 요즘 대학원(특히 AI 분야)이 어떻게 흘러가고 있는지 모르겠어서 더욱 답변이 어렵네요. 그러나 산업계에서 MLOps 등의 실무 경험을 쌓으며 논문을 쓰고, 그걸 토대로 좀 더 방향성이 뚜렷해진 채로 대학원에 진학하는 케이스도 적지는 않다고 알고 있습니다. 대학원에 가는 게 물론 시간을 더 많이 투자해야 하지만 상방도 더 많이 열려있는 기회가 될 가능성도 있을 것 같다고, 조심스럽게 말해보겠습니다. 그러니 대학원에 가는 걸 완전히 닫아두진 않으셨으면 해요.
도움이 되었으려나 모르겠네요. X님은 이미 트렌드를 잘 파악하고 계시니, 현재 계신 곳에서 좋은 경험 쌓으며 현명하게 행동하시리라 믿습니다.
다시 한번 말씀드리지만 저는 AI 모델링에 대해서도, AI 대학원에 대해서도 잘 모릅니다. 그저 이 업계에 몇년 있었고 관찰한 경험만으로 말씀드린 거니, 꼭 다른 선배 분들에게도 여쭤보시고 교차검증하시길 바랍니다.
Member discussion