Summary

  • 개인 맞춤형 식단 관리 AI 서비스의 안정적인 운영을 위한 인프라 필요
  • NPU 기반 클라우드 서비스로 슈퍼브에이아이의 객체 인식 모델을 배포
  • 리벨리온 SDK로 간편하게 사전 훈련된 모델 추론
  • 서비스 품질 확보 및 TCO 절감 효과 확인: 전성비(FPS/W) 2배 개선, 정확도 GPGPU와 동등 수준 달성  

Challenge

AI 스타트업 슈퍼브에이아이는 수 십만 명의 월간 활성 사용자를 보유한 국내 헬스케어 플랫폼과 협업하여 지능적인 개인 맞춤형 식단 관리 서비스를 위한 AI 기능을 구현했습니다. 이들은 컴퓨터 비전 AI 기술로 사용자가 스마트폰으로 찍어 올린 음식 사진이 어떤 음식인지 인식하고 영양 성분을 분석할 수 있는 ‘음식물 탐지 AI’를 개발했는데, 구현된 AI를 상용화하기 위해서는 컴퓨터 비전의 높은 정확도와 서비스의 경제성을 동시에 필요로 했습니다. 

‘음식물 탐지 AI’는 높은 정확도를 요구하는 기능입니다. 같은 음식도 조리법과 플레이팅에 따라 그 모습이 다르고, 비슷해 보이는 음식도 많기 때문입니다. 특히, 한식의 경우에는 여러 반찬이 한 번에 나오기 때문에 탐지 범위가 넓고 정교해야 했습니다.

AI 식단 관리 서비스는 사용자 수가 많은 실시간 서비스인만큼 대규모 동시 접속에도 안정적인 처리 능력과 확장 가능성을 충족시키는 클라우드 기반의 인프라 구상이 필요합니다. 클라우드 인프라는 음식 데이터의 실시간 처리와 효과적인 운영이 가능한 반면에 처리량이 늘수록 그 비용이 높기에 구성을 정교하게 설계하여 정확도와 경제성을 동시에 확보하는 것이 중요합니다. 

Solution

슈퍼브에이아이는 새로운 음식 카테고리를 추가하기 쉬운 유연한 모델 구축, 지속적인 학습을 통한 성능 개선, 대규모 동시 접속 시에도 안정적인 추론 성능 유지를 중장기 목표로 잡았습니다. 이러한 ‘음식물 디텍션 AI’ 고도화 로드맵을 수행하기 위해 성능과 비용 모든 면을 고려하여 슈퍼브에이아이는 리벨리온 NPU 기반 클라우드 서비스를 선택했습니다. 리벨리온의 NPU를 기반으로 한 클라우드 인프라는 GPU와 동등한 수준의 성능을 유지하면서도 전력 소모는 적어 높은 전성비를 가지고 있었고, 클라우드 기반 아키텍처로 모델 최적화와 서비스 확장이 가능했습니다. 

또한, 리벨리온의 소프트웨어 스택인 RBLN SDK는 텐서플로우, 파이토치, 허깅페이스 등으로 학습된 딥러닝 모델을 지원하여 슈퍼브에이아이가 AI 모델을 개발하여 인프라에 손쉽게 서빙할 수 있도록 했습니다. 슈퍼브에이아이는 대규모 데이터로 학습한 음식 객체 인식 모델을 RBLN SDK를 이용하여 다음과 같이 간단하게 적용, 배포할 수 있었습니다.

Result

슈퍼브에이아이와 헬스케어 플랫폼 기업은 리벨리온과의 이번 협력을 통해 NPU 클라우드 인프라의 이점을 활용하여 다음과 같은 성과를 거둘 수 있었습니다. 먼저 목표로 한 모델 정확도(F1-Score 0.87 / 기준 0.7)는 성능 저하 없이 그대로 유지되었고, 연속 스트레스 테스트에서도 안정적인 운영이 가능함을 입증했습니다. 전력 소비량 대비 성능을 나타내는 전성비(FPS/W)는 GPU 기반 클라우드 서비스 대비 최대 2 배 이상 높고, 사용자 체감 속도와 직결되는 지연 시간도 개선되었습니다.

이번 NPU 기반 클라우드 인프라 도입 사례는 서비스 운영에 필요한 비용을 효과적으로 줄일 수 있다는 것을 확인시켜 주었습니다. AI 기반 식단 관리와 같은 실시간 서비스에 대한 안정적인 성능과 합리적인 운영 비용은 경제적인 방식으로 서비스 기능 확대와 사용자 증가를 수용할 수 있는 가능성을 가져다 주었습니다.

Appendix: NPU 활용 가이드

지금 바로 시작하기: 사전 훈련된 모델 준비 → RBLN 컴파일러를 이용한 모델 컴파일 → 컴파일된 모델 로드 및 추론