오늘 고른 셋은 문서 추출, 팀 협업 AI, 로봇 안전으로 분야가 제각각입니다. 그런데 같은 질문 하나로 꿰입니다: AI가 진짜 운영·물리 세계로 들어가려면, 어떤 검증 경계를 먼저 둬야 하나. 그럼의 편집 기준은 ‘AI도 예외 없이 역할·입출력·검증·복구 경계가 있어야 제품에 넣을 수 있다’를 못으로 박아 둡니다 — 데모가 아니라 제품의 이야기입니다. 각 항목은 ‘한 줄 판단’부터 던지고 근거를 풉니다.

오늘의 핵심

1. Mistral OCR 4 — 문서 추출에 ‘confidence·bounding box’가 기본으로 붙다

• 한 줄 판단: OCR을 정산·계약 같은 돈 걸린 파이프라인에 넣을 거면, 정확도 헤드라인보다 인라인 confidence score와 페이지당 단가를 먼저 보세요.
• 사실: Mistral이 문서 추출·이해 모델 OCR 4를 공개했습니다(6월 23일). 텍스트를 뽑을 때 bounding box·블록 분류·인라인 confidence score를 함께 내고, 170개 언어·PDF/DOC/PPT/OpenDocument를 지원하며, 단일 컨테이너로 셀프호스팅이 가능합니다. 단가는 API 1,000페이지당 $4, 배치 $2, Document AI $5. Mistral Studio·Amazon SageMaker·Microsoft Foundry로 제공됩니다. 자사 발표 기준 OlmOCRBench 85.20·OmniDocBench 93.07, 사람 선호 평가 평균 승률 72%라고 합니다. (⚠️ 벤치마크·승률은 Mistral 자사 발표 수치이니 감안해 읽으세요.)
• 태리의 해설: 그럼의 편집 기준에서 ‘돈·물리가 걸리면 작은 실수도 용납 안 됨’은 무관용 항목입니다. OCR을 정산·계약 같은 곳에 붙일 때 진짜 무서운 건 평균 정확도가 아니라 틀렸는데 틀린 줄 모르는 한 장입니다. 그래서 confidence score를 토큰 단위로 내준다는 게 모델 점수보다 반갑습니다 — 임계값 아래는 사람에게 넘기는 휴먼-인-더-루프 경계를 코드로 그을 수 있으니까요. 이 기준으로 보면, 자동화율 100%를 자랑하는 OCR보다 “어디서 손드는지를 아는” OCR이 운영에서 살아남습니다.
• 이번 주 할 일: OCR PoC가 있다면 정확도 표 말고 confidence 분포부터 뽑아, 임계값 이하를 사람에게 보내는 라우팅을 설계하세요. 셀프호스팅이 필요하면 단일 컨테이너 배포 조건(GPU·메모리)을 단가 $4/$2와 비교해 손익분기를 잡아두세요.

2. Claude Tag — AI가 Slack 채널의 ‘팀원’으로 들어오다

• 한 줄 판단: 에이전트를 팀에 들이는 결정에서 중요한 건 모델 성능이 아니라 권한·토큰 한도·감사 로그라는 경계 — 그게 갖춰졌으면 “지켜본다”가 아니라 “설계한다” 단계입니다.
• 사실: Anthropic이 Claude Tag를 베타로 공개했습니다(6월 23일, Enterprise·Team 대상, Slack). 채널에서 @Claude로 태그해 작업을 위임하면 단계로 쪼개 비동기로 처리하고, 채널당 한 인스턴스를 모두가 공유해 진행 상황을 함께 봅니다. 채널 히스토리·연결된 데이터로 맥락을 쌓되 비공개 채널의 내용은 보고하지 않으며, 관리자가 접근 가능한 도구·데이터·채널을 통제하며 조직/채널별 토큰 지출 한도와 활동 감사 로그를 둘 수 있습니다. Opus 4.8 기반이고, 기존 Claude in Slack 앱을 대체합니다(30일 마이그레이션).
• 태리의 해설: 그럼의 편집 기준으로 보면 멀티 AI 제품에서 가장 먼저 정할 것은 세션·산출물·검증 경계입니다. ‘느슨한 결합 = 안정성’이라는 기준은 AI 에이전트에도 그대로 옵니다 — 메시지 큐로 알림을 핵심 로직에서 떼어내야 안정적이듯, 누구나 태그하면 끼어드는 공유 인스턴스는 편하지만 토큰 한도와 감사 로그가 없으면 비용과 사고가 한 채널에서 터집니다. 그래서 이번 발표에서 눈이 멈추는 곳은 멀티플레이어가 아니라 관리자 통제·지출 한도·로그입니다. AI도 시스템이라, 그제 다룬 ‘LLM이 쓴 인시던트 리포트’처럼 누가 무엇을 했는지 추적 가능해야 제품에 들어갑니다.
• 이번 주 할 일: 팀에 도입을 검토한다면 모델 데모 대신 채널별 토큰 한도·접근 범위·감사 로그 정책부터 표로 그리세요. “비공개 채널 내용은 보고하지 않는다”는 경계가 사내 규정과 맞는지도 확인하고요.

3. LIBERO-Safety — 로봇 VLA 모델에 ‘안전’이라는 시험지가 생기다

• 한 줄 판단: 로봇 조작 모델의 데모 성공률에 속지 마세요 — 제약 조건 아래 안전성은 따로 검증해야 하고, 이제 그 벤치마크가 나왔습니다.
• 사실: LIBERO-Safety(arXiv cs.RO, ECCV 2026 채택)는 Vision-Language-Action(VLA) 모델의 안전성을 평가하는 벤치마크입니다. 안전이 걸린 시나리오를 파라메트릭하게 절차 생성하고, 사람 텔레오퍼레이션의 확장 한계를 키포즈 기반 데이터 생성으로 넘겨 충돌 없는 시연 19,664건을 만들었습니다. VLA 모델 8종과 임베디드 파운데이션 모델 2종을 평가한 결과, 다양한 학습은 더 안전한 궤적을 유도하지만 과제 완수는 궤적 합성의 한계와 의미적 불일치로 제약된다는 긴장을 확인했다고 합니다. (⚠️ 안전↔성능 트레이드오프는 논문의 주장이며, 일반화 범위는 벤치마크 설계에 의존합니다.)
• 태리의 해설: 그럼의 편집 기준에서 ‘돈·물리가 걸리면 작은 실수도 용납 안 됨’은 로봇에 그대로 적용됩니다 — 화면 속 데모는 늘 깔끔하지만, 물리 세계는 충돌 한 번이면 비용이 돈이 아니라 안전으로 청구됩니다. 그동안 VLA 모델은 얼마나 잘하나만 쟀지 얼마나 안 망가지나를 잴 공통 시험지가 없었습니다. 충돌 없는 시연으로만 19,664건을 모았다는 대목이 핵심입니다 — 안전은 사후 필터가 아니라 데이터부터 경계를 박아야 한다는 뜻이죠. 어제 다룬 로봇 메모리(MemoryWAM)도 같은 ‘무엇을 경계로 둘까’ 질문이었습니다 — 어제 데일리 트렌드에서 이어집니다.
• 이번 주 할 일: 로봇·VLA를 다룬다면 평가 지표에 과제 성공률과 별개로 안전 위반율을 추가하고, 학습 데이터 자체가 안전 제약을 만족하는지(충돌·금지영역) 한 번 감사해 보세요.

그래서, 무엇이 바뀌나

셋을 관통하는 한 가지 — AI가 운영·물리 세계로 들어갈수록, 자랑거리는 ‘얼마나 잘하나’에서 ‘어떤 검증 경계를 갖췄나’로 옮겨갑니다. OCR은 confidence score로, 협업 에이전트는 토큰 한도·감사 로그로, 로봇은 안전 벤치마크로 — 셋 다 틀릴 수 있음을 전제로 한 경계를 제품에 박아 넣고 있습니다. 그럼의 편집 기준이 ‘AI도 검증 경계가 있어야 제품에 넣는다’를 못으로 박는 이유가 이것입니다. 공개된 기술사가 반복해 보여준 패턴은 분명합니다: 잘 돌 때는 누구나 만듭니다. 망가질 때 무엇이 일어나는지를 코드와 정책으로 미리 정한 것만 운영에서 살아남았습니다. 도구가 OCR이든 Slack 에이전트든 로봇이든, 그 일만은 사라지지 않습니다.

참고 / 출처

• Mistral OCR 4 — Mistral 공식 발표 (자사 벤치마크, 감안해 읽기)
• Introducing Claude Tag — Anthropic 공식 발표
• LIBERO-Safety: A Comprehensive Benchmark for Physical and Semantic Safety in Vision-Language-Action Models — arXiv cs.RO (ECCV 2026)