우리 회사는 안 털렸는데 급여 정보가 샜다, ERP 백업망 제로데이의 연쇄 유출 등: 2026-11-14
오늘 19개의 뉴스를 골랐습니다.
1. 우리 회사는 안 털렸는데 급여 정보가 샜다, ERP 백업망 제로데이의 연쇄 유출
공급망보안 백업보안 불변백업 ERP 제로데이
수만 개 기업의 급여·장부 데이터를 통합 보관하던 대형 ERP 백업망이 제로데이 공격에 뚫렸다. 개별 기업이 직접 해킹당하지 않았는데도 임직원 연봉, 계좌번호, 인사 기록이 한꺼번에 노출될 위기에 놓였다. 백업 소프트웨어의 취약점 하나가 전체 고객사 백본 침투로 이어진 공급망 위협 사례다. 대책으로는 불변(Immutable) 오프라인 격리와 모듈별 데이터 접근 권한 분산이 제시됐다.
백업 시스템은 운영계의 모든 데이터를 한곳에 모으는 구조라서 보호 대상인 동시에 공격자가 가장 노리는 집적 지점이다. 3-2-1 원칙만으로는 부족하다. 백업 SW 자체를 공급망 위험으로 보고 테넌트별 암호화 키 분리, WORM 기반 불변 저장, 백업 관리 평면의 네트워크 격리까지 설계 기준으로 넣어야 한다. 위탁 처리 구조라면 수탁사 백업 인프라도 우리 회사의 위험 범위로 보고 계약과 점검 항목에 포함해야 한다.
2. MS 365 하루 가까이 먹통, 챗GPT·클로드의 업무 연동 기능까지 멈췄다
클라우드장애 MS365 가용성 BCP AI에이전트
MS 365의 아웃룩, 익스체인지 온라인, 팀즈, 코파일럿에서 전 세계적인 장애가 발생해 미국 하원과 일본·호주 정부 기관 등의 업무가 차질을 빚었다. MS에 따르면 일부 서버가 자동 점검에 실패해 서비스에서 빠지면서 남은 서버에 요청이 몰려 과부하가 발생했고, 복구된 서버가 다시 응답하지 않아 복구가 늦어졌다. 오픈AI와 앤트로픽도 MS 365 연결 기능에서 오류가 발생했다고 공지했다. 모델 자체는 정상이었지만 AI가 이메일·일정 데이터에 접근하는 기능이 멈췄다.
헬스체크 실패로 인스턴스가 빠지고 남은 노드가 과부하로 연쇄 이탈하는 전형적인 cascading failure다. 재기동 직후 몰려드는 thundering herd가 복구를 지연시켰다. AI 에이전트의 가용성은 모델 SLA가 아니라 연결된 SaaS 의존성들의 가용성을 곱한 값이므로, 에이전트 설계 단계에서 커넥터별 장애 시 degrade 경로와 수동 대체 절차를 BCP에 명시해야 한다. 단일 벤더에 메일·협업·AI 데이터 계층이 모두 묶인 구조라면 공급자 집중 위험을 정량화하고 관리해야 한다.
3. 협업 도구 ‘두레이’ 침해 정황, 전체 API 키 폐기하고 서비스 중단
API보안 SaaS 침해사고 키관리 두레이
NHN두레이는 13일 새벽 외부인의 계정 접근 시도를 확인하고 서비스 API와 관리자 API 키를 모두 폐기했다. 회사는 비인가 계정 접근과 API 키를 이용한 비정상 호출을 확인했으며, 보수적인 관점에서 API 서비스를 차단했다고 밝혔다. 피해 범위, 사고 경위, 개인정보 유출 여부는 아직 파악 중이다. 민간과 공공 고객사 모두 영향을 받는다.
전체 키를 일괄 폐기했다는 것은 유출 범위를 특정할 수 없었다는 뜻이다. 결국 키 단위 사용 이력과 이상 탐지 체계가 부족했다는 신호다. 장기 정적 API 키 대신 짧은 수명의 토큰, 스코프 최소화, 키별 호출 패턴 모니터링을 기본으로 설계해야 전면 차단 대신 선별 폐기로 대응할 수 있다. 고객사도 SaaS API 키를 연동 시스템에 하드코딩하지 말고 비밀 관리 체계로 관리해야 재발급 시 업무 중단을 줄일 수 있다.
4. SSL VPN은 끝났나, 원격접속 보안이 제로트러스트로 넘어가는 갈림길
SSLVPN 제로트러스트 ZTNA 원격접속 네트워크보안
원격·재택 근무 정착과 AI 에이전트, IoT, 산업 설비 원격 접속 수요 증가로 사내망 경계 보안의 접점이 크게 늘었다. SSL VPN은 TLS 기반 암호화 터널로 L4/L7에서 동작하며, 웹 포털 방식과 에이전트 기반 터널 방식으로 나뉜다. 네트워크 계층(L3)에서 IP 패킷을 암호화하는 IPSec VPN과는 동작 방식이 다르다. 시장은 이제 단순한 원격 접속을 넘어 제로트러스트 아키텍처로 전환해야 하는 시점에 와 있다.
SSL VPN 터널 방식은 인증 후 내부망 전체에 L3 수준으로 접근하게 해 주므로, 계정 하나가 탈취되면 바로 내부 확산(lateral movement)으로 이어진다. 최근 VPN 어플라이언스 자체가 주요 침투 경로가 된 것도 같은 구조적 한계 때문이다. ZTNA 전환의 핵심은 장비 교체가 아니라 애플리케이션 단위 접근 정책, 단말 상태 기반 지속 검증, 그리고 IdP 중심의 정책 결정점(PDP)·정책 집행점(PEP)을 분리하는 설계다.
5. 질의 분포를 미리 학습한 애플, RAG 벡터 검색 99% 재현율 도달 시간 최대 8배 단축
RAG 벡터검색 MIPS ANN 검색최적화
애플 연구진이 고정된 벡터 DB와 실제 질의 분포로 작은 신경망을 오프라인 학습해 최대 내적 검색(MIPS)의 속도와 정확도를 높이는 방법을 ICML 2026에서 발표했다. 기존 중심점 기반 IVF 라우팅은 중심점에서 먼 최적 키가 있는 클러스터를 건너뛸 수 있다는 한계가 있었다. SupportNet은 클러스터별 최고 일치 점수를 예측하고, KeyNet은 질의를 최적 키에 가까운 벡터로 변환한다. Natural Questions 실험에서 99% 재현율에 도달하는 시간을 최대 약 8배 줄였다.
기존 ANN 인덱스는 키 집합의 기하 구조만 보고 만들어지는데, 짧은 질문과 긴 문서 사이의 분포 비대칭을 인덱스 계층에서 흡수한다는 점이 핵심이다. 다만 고정된 키 DB를 전제로 하므로 문서가 자주 바뀌는 RAG에서는 재학습 주기와 인덱스 갱신 비용이 성능 이득을 상쇄할 수 있다. 질의 로그가 안정적으로 쌓이는 사내 지식 검색이나 추천처럼 변동이 적은 코퍼스에 먼저 적용하는 것이 맞다.
6. Apache HTTP/2 모듈에서 인증 없는 RCE 발견, 2.4.71로 즉시 패치해야
Apache RCE HTTP2 취약점관리 패치관리
Apache HTTP Server의 mod_http2에서 assign_headers() 경쟁 상태로 힙 메모리가 손상되는 원격 코드 실행 취약점(CVE-2026-119618)이 발견됐다. HTTP/2를 활성화한 2.4.552.4.70이 영향을 받으며 2.4.71에서 수정됐고, 별도로 배포된 mod_h2 2.0.82.0.42도 대상이다. 힙 손상을 재현하는 PoC가 공개됐지만 실제 악용 사례는 보고되지 않았다. 즉시 패치하기 어렵다면 Protocols를 http/1.1로 제한해 공격 경로를 차단할 수 있다.
패치된 2.4.71 내장 모듈도 버전 표기가 2.0.42라서, 모듈 버전만으로 스캔하면 오탐과 미탐이 동시에 생긴다. 판단 기준은 httpd 빌드 버전과 배포판 백포트 여부로 잡아야 한다. 웹 서버가 침해되면 IMDS 같은 클라우드 메타데이터 엔드포인트로 이어질 수 있으므로 IMDSv2 강제와 워크로드 IAM 최소 권한을 함께 점검해야 피해 범위가 줄어든다. 컨테이너 베이스 이미지에 묻힌 httpd까지 SBOM으로 추적해야 노출 자산을 빠짐없이 파악할 수 있다.
7. 긴 작업에서도 처음 의도를 잃지 않는 에이전트 하네스, nac 공개
AI에이전트 오케스트레이션 에이전트하네스 MCP 오픈소스
Arcee가 실험, 모델 학습, 인프라 구축처럼 오래 걸리는 작업을 위한 오픈소스 에이전트 하네스 nac를 공개했다. 중앙 오케스트레이터는 계획과 분해만 하고 명령 실행·파일 수정은 하지 못하며, 실행은 Thread가 맡고 결과를 구조화된 Episode로 반환한다. Git 저장소에서는 세션별 worktree를 만들어 미커밋 변경과 분리하고, Podman 샌드박스와 MCP 연동을 지원한다. Rust로 작성됐으며 Apache-2.0 라이선스다.
계획 권한과 실행 권한을 분리하고 실행 결과를 요약된 Episode로만 위로 올리는 구조는 컨텍스트 오염을 막는 동시에 권한 분리 원칙을 에이전트 설계에 적용한 것이다. 목표 이탈의 근본 원인은 모델 능력보다 컨텍스트 윈도우에 실행 로그가 쌓여 원래 의도가 희석되는 데 있다. 그래서 상태를 계층적으로 압축하는 설계가 장기 작업의 신뢰성을 좌우한다. worktree 격리와 샌드박스 실행은 에이전트가 만든 변경을 감사하고 롤백할 수 있게 해 주는 최소 통제 장치다.
8. 구글 검색에 ‘제미나이 4 하이드로젠’ 전면 적용, 역대 최대 모델 업그레이드
AI검색 구글 제미나이 쿼리팬아웃 LLM서빙
구글이 전 세계 검색의 AI 모드 기본 모델과 AI 개요에 ‘제미나이 4 하이드로젠’을 적용했다. 여러 조건이 섞인 질문이나 오타가 있는 질문도 의도를 파악하며, 쿼리 팬아웃으로 질문을 하위 검색어로 나눠 동시에 조사한 뒤 종합한다. 결과는 지도, 비교표, 이미지 등으로 구성해 보여준다. 하이드로젠은 이전 고속 모델인 제미나이 3.8 플래시보다 작업을 2.5배 빠르게 처리한다.
검색에 최상위 모델 대신 고속 모델을 쓴 것은 대규모 서비스에서 품질보다 지연시간과 질의당 추론 비용이 아키텍처를 결정한다는 점을 보여준다. 쿼리 팬아웃은 하나의 질의를 다수의 하위 검색으로 증폭시키므로, 백엔드 부하와 캐시 적중률 설계가 사용자 경험을 좌우한다. 웹 생태계 관점에서는 클릭이 아니라 AI가 인용하는 것이 유입의 기준이 된다. 따라서 콘텐츠 제공자는 구조화 데이터와 출처 신뢰성 신호를 갖추는 쪽으로 정보 설계를 바꿔야 한다.
9. 앤트로픽, 제조업용 ‘클로드’ 출시: 견적·품질·설비 고장까지 ERP와 연결
엔터프라이즈AI 제조업 ERP연동 AI에이전트 앤트로픽
앤트로픽이 17개 스킬과 오토데스크 퓨전, 인포, MS 365, 오라클 넷스위트 연결 기능을 갖춘 제조업 플러그인 ‘Claude for Manufacturing’을 출시했다. 별도 학습한 모델이 아니라 기존 클로드를 기업의 설계·생산·재고 시스템 데이터와 연결한 형태다. 인포 플러그인을 쓰면 구매 주문 생성, 재고 재배정, 생산 일정 변경까지 담당자의 승인과 기존 권한 아래 수행할 수 있다. 의료, 금융, 법률에 이어 산업별 제품을 넓히며 오픈AI와의 엔터프라이즈 경쟁이 커지고 있다.
산업별 AI 경쟁의 핵심이 모델 파인튜닝에서 기존 시스템 커넥터와 업무 스킬 패키징으로 옮겨갔다. 도입 효과는 모델 성능보다 기준정보(MDM)와 ERP 데이터 품질이 결정한다. AI가 조회를 넘어 구매 주문 생성처럼 ERP에 쓰기(write) 작업을 하는 순간, 에이전트 계정의 권한 범위, 승인 워크플로, 트랜잭션 감사 로그가 내부통제 설계의 대상이 된다. 사람이 승인한다는 원칙도 승인 피로로 형식화되기 쉬우므로 금액·영향도 기준의 차등 승인 정책이 필요하다.
10. 코난테크놀로지 ‘아르고엑스’ 첫 공개, 팔란티어 고담에 도전하는 국방 정보융합 플랫폼
국방AI 정보융합 온톨로지 데이터거버넌스 코난테크놀로지
코난테크놀로지가 국방 AI 서밋에서 전출처 정보융합 분석 플랫폼 ‘코난 아르고엑스’를 처음 시연했다. 영상·신호·지리공간·인적·공개정보 등 흩어진 출처를 연결하고 인물·장비·시설·사건 간 관계를 분석해 정보분석관의 판단과 지휘결심을 지원한다. 회사는 ‘지능화 X 자율화’를 비전으로 내세우고 전출처 인텔리전스 AI와 무인·자율 디바이스 AI를 양대 축으로 제시했다. 다음 달 정식 출시할 예정이다.
고담 계열 플랫폼의 경쟁력은 AI 모델이 아니라 이기종 출처를 공통 엔티티로 해소(entity resolution)하는 온톨로지 계층과 출처별 보안등급을 유지하는 데이터 거버넌스에 있다. 다중 등급 데이터를 융합하면서 셀 단위 접근통제와 출처 계보(lineage)를 보존하지 못하면 분석 결과를 지휘결심 근거로 쓸 수 없다. 국방망 분리 환경에서 모델 갱신과 데이터 연계를 어떻게 운영하느냐가 실전 배치의 관건이다.
11. 금보원 해킹, 편의 때문에 다시 허용한 유동 IP가 화근
금융보안 접근통제 침해사고 변경관리
금융보안원이 해킹 공격을 받아 48개 금융사 정보 130여 건이 유출됐고, 대응 과정에서 공격에 쓰인 IP 246개를 차단했다. 공격자는 SMS 인증 우회 취약점과 금감원 사칭으로 신규 계정을 만든 뒤 관리자용 운영 점검 기능의 허술한 권한 검증을 파고들어 파일을 내려받았다. 금보원은 2022년 감사 지적 이후 고정 IP로만 접속하도록 제한했다가 금융사 요구로 유동 IP 접속을 다시 허용한 상태였다. 금융당국은 다음 주부터 금보원의 관리 부실 책임을 묻는 집중 감사에 착수한다.
IP 허용 목록은 경계 통제일 뿐이며, 본질적 결함은 계정 생성 단계의 본인확인 우회와 관리 기능의 객체 수준 인가 부재다. 유동 IP와 우회망 앞에서 사후 IP 차단은 실효가 낮으므로 가입 승인 워크플로, 기능별 RBAC, 대량 다운로드 이상탐지를 다층으로 다시 설계해야 한다. 감사 지적으로 강화한 통제를 이용자 편의 요청에 따라 위험 재평가와 보완 통제 없이 풀어준 변경관리 실패가 더 근본적인 거버넌스 문제다.
12. 보안 도구 업데이트가 백도어 통로로, 시피가드 공급망 공격
공급망공격 백도어 리눅스 자격증명관리
리눅스 호스팅 서버용 보안 도구 시피가드(cPGuard)의 업데이트 배포 인프라가 탈취된 계정으로 뚫려 5.88.12~5.88.19 버전에 악성 스크립트가 실려 배포됐다. 스크립트는 /etc/shadow, DB 관리자 설정, root 명령 기록, SSH 인증 파일 등을 수집해 개발사 라이선스 서버의 탈취 계정으로 전송했다. 개발사 옵스실드는 12시간 안에 공격을 탐지해 배포를 멈췄고, 공격자가 가져간 수집 파일을 서버 32대분으로 잠정 추정했다. 5.88.25 이상으로 업데이트하면 백도어는 지워지지만, 이미 유출된 비밀번호와 키는 직접 교체해야 한다.
보안 에이전트는 root 권한으로 자동 업데이트를 받는 구조여서 배포 파이프라인이 곧 전체 고객 서버로 들어가는 단일 침투 지점이 된다. 업데이트 패키지 코드 서명과 클라이언트 측 서명 검증, 배포 인프라 계정의 MFA와 최소 권한이 없으면 12시간 만의 탐지로도 대량 유출을 막지 못한다. 패치는 백도어만 지울 뿐 이미 빠져나간 shadow 해시, SSH 키, DB 자격증명은 그대로 유효하므로 자격증명 전면 교체와 재사용 여부 추적이 사고 대응의 본체다.
13. 카드번호는 AI가 모른다, 오픈AI 에이전트 결제 ‘챗GPT 월렛’ 출시
AI에이전트 결제보안 토큰화 권한위임
오픈AI가 아메리칸 익스프레스, 마스터카드, 비자와 함께 AI 에이전트가 사용자 대신 결제하는 챗GPT 월렛을 상시형 에이전트 닷츠에 출시했다. 사용자가 생체인증으로 구매를 승인하면 결제 네트워크가 일회성 카드 정보를 발급해, 실제 카드번호는 에이전트나 판매자에게 전달되지 않는다. 기존 쇼핑몰 결제 시스템을 그대로 쓰지만, 일부 쇼핑몰의 에이전트 접근 차단과 사기 방지 시스템의 거래 거절은 남은 과제다. 앞으로는 지출 한도, 품목, 기간을 조건으로 구매 권한을 사전 위임하는 기능도 추가할 계획이다.
네트워크 토큰화와 생체인증 승인을 결합해 에이전트에 결제 권한은 주되 자격증명은 주지 않는 위임 구조를 택했다. 앞으로 도입될 조건부 사전 위임은 지출 한도, 품목, 기간을 정책으로 강제하는 권한 범위 설계와 감사 로그가 핵심이며, 결국 OAuth 스코프 설계와 같은 문제로 귀결된다. 판매자의 봇 탐지와 FDS가 정상 에이전트와 악성 봇을 구분할 수 있는 에이전트 신원 증명 체계가 에이전트 상거래 확산의 실제 병목이다.
14. MS 전 세계 장애, 잠복해 있던 네트워크 작업 결함이 원인
클라우드장애 변경관리 연쇄장애 MS365
MS는 아웃룩, 팀즈, 코파일럿 등 20개 이상 서비스를 하루 넘게 마비시킨 장애의 원인이 사이버 공격이 아닌 네트워크 작업 오류라고 밝혔다. 이전 용량 증설 작업의 결함이 최근 네트워크 변경 뒤 드러나 일부 서버가 멈추면서, 남은 서버의 보안 연결 처리 프로세스에 과부하가 걸렸다. 복구 중에도 서버가 다시 응답하지 않는 문제가 생겼고, MS는 이메일 유실을 막기 위해 처리 대기 시간을 48시간으로 늘렸다. 74개 국가와 지역에서 장애 신고가 접수됐고, 법원과 약국, 증권거래소 업무에도 차질이 생겼다.
과거 용량 증설 작업에 잠복한 결함이 이후 네트워크 변경으로 드러난 구조여서, 변경 단위별 검증만으로는 누적 변경 간의 상호작용을 잡지 못한다는 점을 보여준다. 일부 서버 장애에서 잔존 서버의 TLS 처리 과부하, 재기동 후 응답 불능으로 이어진 것은 전형적인 연쇄 장애(cascading failure)이며, 부하 차단, 서킷 브레이커, 점진적 트래픽 복귀 설계가 복구 시간을 좌우한다. 이메일 대기열을 48시간으로 늘린 것처럼 데이터 유실을 막는 큐 보존 정책을 미리 정의해 두는 것도 BCP의 필수 항목이다.
15. MS365 장애에 정부 비상대응반 가동, SaaS 의존 리스크 재부상
SaaS 업무연속성 클라우드집중리스크 BCP
과기정통부가 MS365 글로벌 장애에 대응해 한국MS와 비상대응반을 구성하고 국내 복구 현황과 이용자 피해를 점검하고 있다. 국내 일부 기업은 이메일 송수신에 차질을 겪었고, 오픈AI와 앤트로픽의 MS365 연동 기능도 영향을 받았다. 정부는 국내 주요 플랫폼 사업자에게도 장애 예방을 위한 자체 시스템 점검을 지시했다. MS는 공식 사과와 함께 이전 네트워크 용량 업그레이드에서 잠복한 문제가 원인이며, 안정성을 단계별로 확인하느라 복구가 늦어졌다고 설명했다.
SaaS 장애는 이용 기관이 직접 복구할 수단이 없으므로, 대응의 핵심은 미리 정해 둔 대체 소통 채널과 업무 연속성 절차다. 공공·금융기관은 MS365에 의존하는 업무를 식별해 RTO를 정하고, 백업 MX와 대체 메신저 같은 우회 경로를 BCP에 명시해야 한다. 단일 SaaS 사업자 집중은 제3자 위험관리 대상으로 다뤄야 하며, SLA 위반 시 보상과 장애 보고서 제공 의무를 계약에 담아야 한다.
16. 美 전역 항공기 이륙 중단, 관제통신 장애로 항공대란
핵심기반시설 이중화 공통원인고장 배포전략
미국 전역의 항로 교통관제센터(ARTCC)에 통신 장애가 발생해 FAA가 모든 출발 항공편의 이륙을 중단시켰다. 미국 내 항공편 8000편 이상이 지연되고 약 400편이 결항했다. 당국은 사이버 공격 징후는 없다고 밝혔으며, 소프트웨어 업데이트 오류 가능성을 조사하고 있다. 미국 전역의 이륙 중단은 계약업체 직원의 파일 삭제로 NOTAM 시스템이 멈춘 2023년 1월 이후 약 3년 10개월 만이다.
모든 ARTCC가 동시에 영향을 받았다는 것은 이중화가 장비 수준에만 있고, 소프트웨어와 구성의 공통 원인 고장(common cause failure)에는 무방비였다는 뜻이다. 원인이 업데이트 오류라면 전국 일괄 배포 대신 카나리·지역별 단계 배포와 즉시 롤백 경로를 갖췄는지가 핵심 쟁점이다. 2023년 NOTAM 장애에 이어 반복된 만큼, 이종 시스템 기반 다양성 이중화와 수동 운영 전환 절차를 안전 등급 시스템의 필수 요건으로 다뤄야 한다.
17. AI가 찾은 아파치 HTTP/2 원격 코드 실행 결함, 설정에 따라 노출 갈린다
취약점관리 아파치 HTTP2 AI보안
아파치 HTTP 서버의 mod_http2 모듈에서 인증 없이 원격 코드를 실행할 수 있는 결함(CVE-2026-119618)이 발견돼 2.4.71에서 수정됐다. 2.4.55~2.4.70 가운데 Protocols 지시어로 h2나 h2c를 켠 서버만 영향을 받으며, 레드햇은 심각도를 9.8점으로 매겼다. 배포판별 위험도와 패치 상황이 다르고, 보관 처리된 mod_h2는 수정판이 나오지 않아 HTTP/2를 끄는 것이 임시 대책이다. 결함은 앤트로픽의 OSS 스캐너와 구글 클라우드 연구팀이 각각 제보했다.
노출 여부가 버전이 아니라 Protocols 지시어 설정에 달려 있어, 버전 기반 자산 스캔만으로는 판정할 수 없고 전역·가상 호스트별 구성까지 수집하는 구성 관리가 필요하다. 배포판마다 백포트 패키지 버전과 심각도가 다르므로 upstream 2.4.71 기준 비교는 오탐과 미탐을 낳으며, 수정판이 없는 mod_h2 같은 컴포넌트는 h2 비활성화 같은 보완 통제를 기록·관리해야 한다. 5월 패치를 적용한 서버도 다시 노출된 데다 AI 스캐너가 결함을 찾는 속도도 빨라졌으므로, 같은 모듈에서 결함이 반복된다는 전제로 패치 주기를 줄여야 한다.
18. 1450억 매개변수 모델을 노트북에서, Edge0-145B 공개
온디바이스AI 양자화 로컬LLM TCO
Edge0가 Qwen3.8-Flash-Next 기반 145B·120B 모델 가중치와 로컬 추론 엔진, 배포 도구를 오픈소스로 공개했다. Edge0-145B는 최대 메모리 29GB로 노트북에서 초당 80토큰 이상을 생성하며, GPU 한 장으로도 실행된다. 자체 평가에서 Terminal-Bench 2.1 86.52%를 기록해 일부 프런티어 클라우드 모델과 비교할 만한 성능을 주장했다. 클라우드 토큰 비용 없이 오프라인으로 작동하지만, 하드웨어와 전력 비용은 남는다.
145B 모델이 29GB 피크 메모리로 돌아가는 것은 매개변수 수만으로는 설명되지 않으며, 희소 활성 구조와 Q3급 저비트 양자화를 함께 적용한 결과로 봐야 하므로 정밀도 손실이 실제 업무 품질에 미치는 영향을 자체 평가셋으로 검증해야 한다. 성능 수치는 모두 자체 측정이어서 도입 판단의 근거로 삼기 어렵다. 로컬 추론은 토큰 비용과 데이터 반출 리스크를 없애지만 비용 구조를 종량제 OPEX에서 GPU·전력 CAPEX로 옮기므로, 사용량 기반 TCO 비교가 먼저다.
19. 애플, 온디바이스·클라우드 LLM을 하나의 Swift API로 묶다
LLM통합 추상화계층 하이브리드AI 데이터라우팅
애플의 Foundation Models framework가 온디바이스 모델, Private Cloud Compute 모델, Claude, Gemini를 같은 Swift API로 연결하며, 구조화된 응답 생성과 도구 호출을 지원한다. Dynamic Profiles를 쓰면 대화 기록을 유지한 채 세션 안에서 모델, 도구, 지침을 바꿀 수 있다. 요건을 충족한 소규모 개발자에게는 PCC의 애플 모델을 클라우드 API 비용 없이 제공한다. Evaluations 프레임워크와 fm CLI, Python SDK로 모델 교체 시 동작 검증과 스크립트 자동화도 지원한다.
Language Model 프로토콜로 모델 제공자를 추상화해 온디바이스, PCC, 외부 클라우드 모델을 같은 인터페이스로 바꿔 끼울 수 있게 한 것은 LLM 계층에 어댑터 패턴을 적용해 벤더 종속을 낮추는 설계다. Dynamic Profiles로 세션 중 모델을 전환하면 대화 기록이 함께 기기 밖으로 나갈 수 있으므로, 데이터 분류에 따라 어떤 문맥을 외부 모델로 넘길지 라우팅 정책을 명시해야 한다. 모델을 바꿀 때 동작 변화를 검증하는 Evaluations는 LLM 기능의 회귀 테스트에 해당하며, 이런 평가 체계가 있어야 추상화의 이점이 실제로 살아난다.
오늘의 추천
머스코 육각 철망 닭장 철조망 플라워 웨딩 무대 방호망 꽃장식 울타리 23,700.0원
이 포스팅은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다.