클라우드를 넘어 온디바이스로: Qualcomm이 주목한 'On-Device Contract AI'와 기술적 프라이버시 혁신

최근 기업용 AI 시장의 핵심 화두는 데이터 프라이버시와 컴플라이언스입니다. 법률 기술 스타트업인 SpotDraft가 Qualcomm Ventures로부터 800만 달러의 전략적 투자를 유치하며 기업 가치를 약 4억 달러 수준으로 끌어올렸습니다. 이번 투자의 핵심은 민감한 계약 데이터를 클라우드로 전송하지 않고 로컬 기기 내에서 처리하는 'On-device Contract AI' 기술에 있습니다.

"미래의 기업용 AI는 문서와 가장 가까운 곳, 즉 프라이버시가 중요하고 지연 시간에 민감한 디바이스 위에서 실행되어야 한다." - Shashank Bijapur, SpotDraft CEO

1. 기술적 전환점: 온디바이스 추론의 실효성 확보

SpotDraft의 VerifAI 워크플로우는 Qualcomm의 Snapdragon X Elite 프로세서를 탑재한 노트북에서 엔드 투 엔드로 실행됩니다. 과거 온디바이스 AI는 성능 한계로 인해 요약 등 단순 작업에 그쳤으나, 현재는 다음과 같은 기술적 진보를 이루었습니다.

• 성능 격차 해소: 파인튜닝된 온디바이스 모델은 GPT-4와 같은 프런티어 모델과의 벤치마크 성능 격차를 5% 이내로 좁혔습니다.
• 추론 속도 최적화: 최신 NPU(Neural Processing Unit) 가속을 통해 클라우드 기반 API 호출 대비 약 3배 빠른 응답 속도를 구현했습니다.
• 오프라인 가용성: 로그인 및 라이선싱을 제외한 핵심 계약 검토, 리스크 스코어링, 레드라이닝(Redlining) 작업이 완전 오프라인 상태에서 수행됩니다.

2. 하이브리드 아키텍처와 엔터프라이즈 보안

규제 산업(국방, 제약 등)에서는 데이터 소버린티(Data Sovereignty) 요구 사항으로 인해 퍼블릭 클라우드 AI 도입이 지연되는 경우가 많습니다. SpotDraft는 Hybrid AI 모델을 채택하여 협업 및 인증은 클라우드에서 처리하되, 민감 데이터가 포함된 추론 엔진은 로컬 런타임에서 구동함으로써 보안과 효율성이라는 두 마리 토끼를 잡았습니다.

[아키텍트의 분석: Edge AI와 SLM의 부상]

이번 SpotDraft의 사례는 AI 아키텍처 설계의 패러다임이 'Centralized Cloud'에서 'Distributed Edge'로 확장되고 있음을 보여주는 중요한 지표입니다. 시니어 아키텍트 관점에서 주목해야 할 세 가지 포인트는 다음과 같습니다.

첫째, 도메인 특화 SLM(Small Language Models)의 최적화입니다. 범용 LLM보다 특정 도메인(법률)에 최적화된 경량 모델이 NPU 가속 하드웨어와 결합했을 때, 엔터프라이즈 환경에서 더 높은 TCO(Total Cost of Ownership) 효율을 제공합니다.

둘째, 데이터 거버넌스의 물리적 격리입니다. WAF나 데이터 암호화 솔루션만으로는 해결하기 어려운 '모델 학습 데이터 유출 우려'를 로컬 실행이라는 물리적 레이어에서 차단함으로써 보안 아키텍처의 복잡성을 단순화했습니다.

셋째, 하드웨어 가속기(NPU)의 표준화입니다. Snapdragon X Elite와 같은 고성능 AI 칩셋의 보급은 Python 기반의 AI 모델이 로컬 C++ 런타임이나 Rust 기반의 추론 엔진으로 변환되어 네이티브 수준의 성능을 내는 생태계를 가속화할 것입니다.

---

원문 출처: Qualcomm backs SpotDraft to scale on-device contract AI with valuation doubling toward $400M