오늘은 셋입니다 — 공교롭게도 모두 AI·도구를 어디까지 맡기고, 어디서 사람이나 서버가 받아내나라는 경계 이야기로 모였어요. 능력 자랑보다 실패·검증·복구의 경계가 채택을 가르는 흐름입니다. 각 항목은 ‘한 줄 판단’부터 던지고 근거를 풉니다.

오늘의 핵심

1. 의료 AI 챗봇의 ‘대규모 실패’를 인프라 관점에서 본 연구

• 한 줄 판단: 사람 몸·돈이 걸린 자리에 AI를 넣을 땐 *‘얼마나 잘하나’보다 ‘어떻게 실패하고 누가 받아내나’*를 먼저 설계하는 편이 안전합니다.
• 사실: arXiv 프리프린트 「AI Healthcare Chatbots as Information Infrastructure」가 의료 AI 챗봇을 일회성 답변기가 아니라 정보 인프라로 놓고, 사용자들이 보고한 실패(breakdown) 사례를 대규모로 분석한 연구를 내놨습니다. 요지는 오답 자체보다, 실패가 어디서 어떻게 새고 누가 떠안는지가 인프라의 품질을 좌우한다는 쪽이에요. (⚠️ 동료평가 전 프리프린트 — 실패 유형·규모·분류는 논문 주장 기준.)
• 이번 주 할 일: 사내에 AI가 고위험 답변(의료·법률·금융)을 내보내는 경로가 있다면, ‘오답일 때 사람에게 넘어가는 에스컬레이션 경로와 로그’가 갖춰져 있는지 한 번 점검해 보시길 권합니다. 단, 가드레일과 휴먼인더루프를 두껍게 하면 응답 속도·자동화율은 그만큼 내려가니, 위험도가 높은 답변에만 선별 적용하는 편이 균형이 맞습니다.

2. 스스로 경험을 쌓아 작업을 계획하는 GUI 에이전트

• 한 줄 판단: ‘에이전트가 직접 해보며 배운다’는 접근은 매력적이지만, 학습·실행 경로에 검증과 롤백 경계가 없으면 운영에 올리기는 이릅니다.
• 사실: arXiv 프리프린트 「Empowering GUI Agents via Autonomous Experience Exploration and Hindsight Experience Utilization」가, 화면을 직접 조작하는 GUI 에이전트가 자율 탐색으로 경험을 모으고 사후 재해석(hindsight)으로 그 경험을 재활용해 작업 계획을 개선하는 방법을 제안합니다. (⚠️ 프리프린트 — 성공률·일반화 범위는 논문 주장 기준.)
• 이번 주 할 일: 화면을 자동 조작하는 PoC가 있다면, 데모의 성공률에 흥분하기 전에 ‘되돌릴 수 없는 행동(결제·삭제·전송)‘에 확인 게이트부터 두시길 권합니다. 단, 게이트를 늘릴수록 ‘완전 무인화’라는 자율성의 이점은 줄어드니, 비가역·고비용 행동에만 게이트를 거는 식으로 좁혀 두시면 좋습니다.

3. LaTeX 엔진을 통째로 브라우저에 — WebAssembly로

• 한 줄 판단: 무거운 네이티브 툴체인이 브라우저로 들어오는 흐름은 *‘설치·서버 없는 배포’*라는 실익이 분명해, 문서·계산 도구를 만든다면 지켜볼 값어치가 있습니다.
• 사실: SwiftLaTeX가 LaTeX 엔진을 WebAssembly(WASM)로 컴파일해, 서버 없이 브라우저 안에서 직접 조판하고 PDF를 만드는 데모를 공개했습니다. 렌더링 부하가 클라이언트로 내려가는 구조예요. (프로젝트 공식 데모 기준.)
• 이번 주 할 일: 서버에서 PDF·문서를 렌더하느라 큐·워커를 돌리는 부분이 있다면, 그중 한 군데만 WASM으로 클라이언트에 내릴 수 있는지 가늠해 보시는 것도 방법입니다. 단, 클라이언트로 내리면 서버 부하·비용은 줄어드는 대신 초기 다운로드 용량과 저사양 기기 부담이 늘어나니, 트래픽 패턴을 보고 결정하시면 좋습니다.

그래서, 무엇이 바뀌나

셋을 관통하는 한 가지 — 능력보다 ‘경계’가 채택을 가른다는 점입니다. 의료 챗봇은 실패를 누가 받아내나, 자율 에이전트는 어디까지 되돌릴 수 있나, 브라우저로 내려오는 무거운 도구는 부하를 어디에 둘까 — 모두 같은 질문의 변주예요. 그럼의 편집 기준은 AI도 역할·입출력·검증·복구 경계가 있어야 제품에 넣을 수 있다는 쪽인데, 공개된 분산 시스템의 역사가 반복해 보여줬듯 화려한 능력보다 경계를 먼저 그어 둔 쪽이 운영에서 오래 살아남습니다. (LLM이 쓰는 인시던트 리포트의 함정도 같은 ‘검증 경계’ 이야기였고, 데일리 트렌드를 고르는 기준도 같은 렌즈예요.)

참고 / 출처

• AI Healthcare Chatbots as Information Infrastructure: A Large-Scale Study of User-Reported Breakdowns — arXiv 프리프린트 (동료평가 전)
• Empowering GUI Agents via Autonomous Experience Exploration and Hindsight Experience Utilization — arXiv 프리프린트 (동료평가 전)
• LaTeX.wasm — LaTeX Engines in Browsers (SwiftLaTeX) — 프로젝트 공식 데모
• 함께 보기: LLM 인시던트 리포트의 함정