'이 답변, 정말 그 모델이 썼나'…앤트로픽, 영지식 증명으로 AI 추론 검증하는 '플래시프루브' 공개 등: 2026-11-06
오늘 30개의 뉴스를 골랐습니다.
1. “이 답변, 정말 그 모델이 썼나”…앤트로픽, 영지식 증명으로 AI 추론 검증하는 ‘플래시프루브’ 공개
영지식증명 AI신뢰성 앤트로픽 모델검증 zkSNARK
앤트로픽이 zkSNARK 기반 영지식 증명으로 AI 응답이 약속된 모델의 계산 결과인지 검증하는 오픈소스 시스템 ‘플래시프루브’를 공개했다. 서비스 업체가 모델 가중치에 연결된 디지털 지문을 먼저 공개하고, 응답마다 암호학적 증명 파일을 생성해 이용자가 가중치 노출 없이 모델 바꿔치기 여부를 확인할 수 있다. 라마 4 매버릭 실험에서 증명 파일은 요청당 약 19MB, 검증은 CPU 24스레드 기준 약 17초가 걸렸지만, 증명 생성 비용은 일반 프리필 연산의 70~95배에 달한다. 1024토큰 문맥 제한과 사후 검증 구조 때문에 상용 서비스에 바로 적용할 단계는 아니며, 프로토콜 설계 과정을 클로드가 주도한 점도 주목받았다.
이 기술이 보장하는 것은 응답의 ‘사실성’이 아니라 ‘계산 출처의 무결성’이며, 이는 SLA와 모델 감사 체계에서 지금까지 비어 있던 검증 계층을 채운다. 외부 평가기관이 시험한 모델과 실제 운영 모델의 동일성을 암호학적으로 입증할 수 있게 되면, AI 조달 계약서의 ‘모델 명세’ 조항이 처음으로 기술적 강제력을 갖는다. 다만 증명 생성 비용이 프리필의 70~95배인 이상 전수 검증은 불가능하므로, 무작위 샘플링 감사 방식으로 설계하는 것이 현실적인 아키텍처다.
2. “전문가 흉내 말고 문서부터 찾아라”…AI 에이전트에 근거 인용을 강제하는 grounded-expert
AI에이전트 환각방지 RAG ClaudeCode 출처인용
grounded-expert는 AI 코딩 에이전트가 기억에 의존하지 않고 공식 스펙·문서·논문을 직접 검색해 인용하며 답하도록 강제하는 스킬이다. 질문을 받으면 서브에이전트가 WebSearch/WebFetch로 1차 출처를 찾고, 모든 주장에 출처 URL과 EXTRACTED·INFERRED·not confirmed 태그를 붙인다. 결론 전에 반대 근거 검색을 한 번 더 수행하며, 질문마다 quick·standard·thorough 수준을 고를 수 있다. 일반 답변보다 느리고 토큰을 더 쓰지만, 근거를 사람이 직접 대조할 수 있다는 점이 핵심 차별점이다.
persona 프롬프트가 ‘말투’를 바꾼다면 이 스킬은 ‘절차’를 바꾸는데, 신뢰성은 언제나 절차에서 나온다는 점에서 올바른 설계 방향이다. 특히 주장을 원문 인용·추론·미확인으로 태깅하는 구조는 데이터 리니지(lineage)를 답변 단위로 구현한 것으로, 감사 가능성(auditability)을 확보하는 핵심 장치다. 다만 요약형 fetch 도구를 거친 인용은 원문 그대로가 아닐 수 있으므로, 규격 준수가 중요한 영역에서는 원문 직접 확인 단계를 별도로 두어야 한다.
3. AI 에이전트와 혼자 개발한 1년…“사람의 시간은 코드에서 스펙으로 옮겨갔다”
AI코딩 하네스엔지니어링 코드리뷰 개발방법론 소프트웨어품질
AI 코딩 에이전트와 1년간 혼자 개발한 개발자가 코드 작성보다 에이전트의 진행과 결과를 통제하는 개발 과정을 설계한 경험을 공유했다. 설계·구현·검증 결과가 다시 규칙 개선으로 돌아오는 닫힌 피드백 루프를 만들고, 구현 맥락과 분리된 독립 세션에서 고정된 코드 스냅샷을 검토하도록 했다. 리뷰가 끝없이 반복되지 않도록 PR별 지적 장부를 두고, 머지 이후에도 코드 생존율과 복잡도 추이를 관찰한다. 대량 코드 생성보다 생성 스펙을 다듬는 데 훨씬 긴 시행착오가 필요했다는 것이 결론이다.
구현 맥락을 공유한 리뷰어는 사각지대도 공유한다는 통찰은 감사 영역의 ‘독립성 원칙’을 AI 개발 프로세스에 정확히 이식한 것이다. 에이전트의 완료 보고 대신 실행 기록과 diff를 근거로 판정하는 방식은 자기 보고를 신뢰하지 않는 통제 설계의 기본이며, 판단은 LLM에 맡기되 계수·비교는 결정론적 도구에 맡기는 역할 분리도 눈여겨볼 부분이다. 코드 생산 비용이 0에 수렴하면 병목은 요구사항 정의와 검증으로 이동하고, 결국 개발 조직의 핵심 역량은 ‘스펙 엔지니어링’이 된다.
4. 2.8조 파라미터 ‘키미 K3.1 프로’ 가중치 공개…딥시크 희소 어텐션으로 100만 토큰 처리
오픈웨이트 MoE 희소어텐션 문샷AI 양자화
문샷 AI가 총 2조8000억 매개변수 중 1040억개를 활성화하는 MoE 모델 ‘키미 K3.1 프로’의 가중치를 허깅페이스에 약 1.56TB 규모로 공개했다. 93개 계층 중 69개는 KDA, 24개는 게이트형 딥시크 희소 어텐션(DSA)으로 구성해 최대 약 100만 토큰 문맥의 처리 효율을 높였다. 가중치는 MXFP4, 활성값은 MXFP8 형식을 쓰며 양자화 인식 학습(QAT)을 적용했다. 상업적 이용은 허용하되 합산 매출 연 2000만달러 초과 시 별도 계약이 필요하고, 악용 방지를 위해 학습 데이터에서 사이버 보안 관련 내용을 제거했다.
주목할 지점은 파라미터 규모가 아니라 전체 어텐션 계층을 희소 어텐션으로 완전히 대체했다는 구조적 결정으로, 긴 문맥 처리 비용이 O(n²) 제약을 벗어나는 방향으로 오픈 모델의 표준이 이동하고 있음을 보여준다. 다만 ‘오픈 웨이트’라는 표현과 달리 매출 기준 별도 계약·모델명 표시 의무가 붙은 조건부 라이선스이므로, 도입 전 법무 검토 없이 상용 서비스에 탑재하면 계약 리스크가 생긴다. 또한 1.56TB 가중치와 MXFP4 연산은 지원 GPU 세대가 제한적이어서, 자체 호스팅의 TCO가 API 비용보다 낮아지는 손익분기점을 먼저 산정해야 한다.
5. 용역비 0원, 30일→1일…공무원이 AI로 직접 만든 시설물 안전관리 플랫폼
공공DX 시민개발 시설물안전 AI행정 IT거버넌스
전남광주통합특별시 종합건설본부 주무관이 AI를 개발 도구로 활용해 외부 용역과 별도 예산 없이 ‘시설물 안전관리 실무 플랫폼’을 직접 기획·개발했다. 플랫폼은 교량·터널·지하차도·옹벽 등을 법적 기준에 따라 자동 분류하고, 상위 점검 시행 여부에 따라 하위 점검 생략 가능성을 판정한다. 점검 보고서별로 흩어진 손상·균열·보수 이력을 시설물 단위로 통합해 담당자가 바뀌어도 이력을 이어볼 수 있다. 안전점검 용역 설계내역서 작성 기간도 30일 이상에서 1일 이내로 단축됐다.
이 사례의 진짜 가치는 자동화가 아니라, 보고서 단위로 흩어진 손상 이력을 ‘시설물’ 중심으로 재구성해 데이터 모델의 기준 엔티티를 바로잡은 데 있다. 그러나 개인이 만든 시스템이 법적 점검 생략 여부를 판정하는 순간 그것은 업무 보조 도구가 아니라 행정 결정 시스템이므로, 판정 로직 검증·변경 이력 관리·개발자 이탈 시 유지보수 주체가 제도적으로 정의되어야 한다. 시민 개발(citizen development)의 확산은 반가우나, 섀도 IT를 공식 정보시스템으로 편입하는 거버넌스 절차가 함께 마련되지 않으면 ‘1인 의존 레거시’가 된다.
6. “98점 AI에 내 삶을 맡길 수 있나”…BeSTCon 2026, 정확도 넘어 ‘신뢰 검증’을 말하다
AI신뢰성 소프트웨어테스팅 인간감독 추적성 AI거버넌스
제12회 국제 품질 테스팅 콘퍼런스(BeSTCon 2026)가 ‘TRUST in AI’를 주제로 열려 AI의 정확도만으로는 신뢰성을 판단할 수 없다는 문제의식을 공유했다. 박지환 씽크포비엘 대표는 같은 오류율도 채용·복지와 영화 추천에서 피해가 다르다며, 사용 목적의 정당성과 인간감독의 실효성까지 시험해야 한다고 강조했다. 담당자 무응답, 경보 폭주, 중단 명령 실패 같은 상황까지 시험 대상에 포함해야 한다는 것이다. 김용덕 IBM 전문위원은 요구사항과 시험 결과를 연결하는 추적성, 운영 중 지속 재검증 체계를 제시했다.
‘잘 수행하는 능력’과 ‘수행해도 되는 정당성’의 구분은 검증(verification)과 확인(validation)의 고전적 구분을 AI의 사회적 영향 영역까지 확장한 것이다. 특히 Human-in-the-loop를 ‘사람을 호출했다는 로그’로 갈음하지 말고 무응답·경보 폭주·킬 스위치 실패까지 시험하라는 요구는, 인간감독을 기능 요구사항이 아닌 장애 시나리오 기반 비기능 요구사항으로 다뤄야 한다는 뜻이다. 데이터·프롬프트·권한이 바뀌면 기존 검증 근거가 무효화된다는 점에서, AI 시스템의 형상관리 기준선(baseline)에는 모델뿐 아니라 프롬프트와 권한 정책까지 포함되어야 한다.
7. 퇴사자 서명키 하나로 3370만명 유출…플랫폼 보안, 접근권한 관리가 승부처
개인정보유출 접근권한관리 키관리 공급망보안 제로트러스트
국내외 대형 IT·플랫폼 기업에서 수천만명 규모의 개인정보 유출 사고가 잇따르며 접근권한 관리와 데이터 보호 강화가 시급한 과제로 떠올랐다. 쿠팡 사고는 퇴사 후 폐기되지 않은 인증서명키로 인증토큰을 위조한 것이었고, 프랑스 마노마노는 고객지원 위탁업체 계정 침해로 약 3800만명의 정보가 유출됐다. 플랫폼은 주문·결제·배송·고객지원에 여러 사업자가 고객정보를 공유하는 구조라 권한 관리가 복잡하다. 퇴사자·외부 업체 권한 관리, 인증정보 주기적 갱신, 대량 조회·반출 탐지, 최소 정보 제공 등이 개선 과제로 제시됐다.
쿠팡 사례의 본질은 계정 관리가 아니라 ‘비인격 자격증명(Non-Human Identity)’ 관리 실패로, 서명키는 퇴사 절차의 회수 대상 목록에조차 오르지 않는 경우가 많다. 서명키는 HSM/KMS에 격리해 사람이 키 원본에 접근할 수 없도록 하고, 정기 키 로테이션과 kid 기반 폐기 체계를 갖춰야 단일 키 유출이 전체 인증 우회로 번지지 않는다. 위탁업체 계정 경로까지 고려하면 경계 기반 통제는 한계가 명확하며, 조회 건수·시간대·데이터 유형 기반의 이상 반출 탐지(UEBA)가 사실상 마지막 방어선이다.
8. AI 에이전트가 내 파일을 연다면…개인정보위, 에이전트·피지컬 AI 시대 보호 기술 논의
개인정보보호 AI에이전트 PET 피지컬AI 최소권한
개인정보보호위원회가 ‘에이전트·피지컬 AI 시대, 개인정보 보호 기술과 안전활용 방안’을 주제로 제4기 개인정보 기술포럼 공개토론회를 열었다. AI 에이전트가 사용자를 대신해 파일과 외부 시스템에 접근하면서 생기는 개인정보 보호 사각지대와 책임·통제의 한계가 논의됐다. 가명·익명처리, 합성데이터, 동형암호 등 개인정보보호 강화기술(PET)의 역할과 AI 에이전트 관련 국제표준 발전 방향도 다뤄졌다. 개인정보위는 사전예방 보호체계와 PET 생태계 조성을 함께 추진하겠다고 밝혔다.
AI 에이전트의 개인정보 문제는 PET보다 먼저 ‘위임 권한 모델’의 문제로, 사용자 권한을 그대로 상속받는 에이전트는 최소 권한 원칙을 구조적으로 위반한다. 작업 단위로 범위가 좁혀진 단기 토큰을 발급하고, 에이전트가 접근·전송한 개인정보 흐름을 감사 로그로 남겨야 ‘누가 처리했는가’라는 책임 소재가 성립한다. 동형암호나 합성데이터는 학습·분석 단계에 유효하지만, 에이전트의 실시간 도구 호출 경로에는 정책 집행 지점(PEP)과 DLP를 배치하는 아키텍처적 통제가 더 직접적인 해법이다.
9. 더존비즈온 백업 서비스 해킹 일파만파…SKT T1까지 주민번호·급여 내역 유출 가능성
더존비즈온 공급망보안 백업보안 개인정보유출 위탁관리
더존비즈온의 데이터 백업 서비스(APO) 해킹 사태로 개인정보 유출 가능성을 공지한 기업에 SKT T1이 추가됐다. T1은 2026년 3월 31일 이전 등록된 임직원·가족·선수단·프리랜서 등의 성명, 주민등록번호, 여권번호, 주소, 급여 지급 내역, 가족관계 등이 유출됐을 수 있다고 밝혔다. 케이옥션, 한국여자프로골프협회, 국립박물관단지, 국기원 등 다수 기관도 같은 백업 서비스를 통해 피해 가능성을 공지했다. 더존비즈온은 피해 서버를 강제 종료하고 해외 IP 접근을 차단한 뒤 KISA 등 관계 기관에 신고했다.
백업은 운영 DB의 모든 민감정보를 한곳에 집약한 사본이면서 운영계보다 통제 수준이 낮게 관리되기 쉬워, 공격자 입장에서 가장 효율적인 표적이다. 이번 사태는 하나의 SaaS 백업 사업자가 수십 개 고객사의 단일 장애점(SPOF)이 되는 공급망 집중 리스크를 보여주며, 백업 데이터를 고객사 소유 키로 암호화(BYOK)하지 않았다면 수탁사 침해가 곧 평문 유출이 된다. 위탁 계약 시 백업 데이터의 암호화 키 관리 주체, 보관 기간, 위탁사 감사 권한을 명시하지 않았다면 개인정보 처리 위탁 책임은 결국 위탁자에게 돌아온다.
10. 약관 동의·인증번호 6칸 매번 새로 만들지 마세요…접근성을 CI로 검증하는 한국형 React 디자인 시스템
웹접근성 디자인시스템 React KWCAG CI
BestOW UI는 약관 전체 동의, 인증번호 입력, 전화번호·사업자등록번호 검증, 만·억 단위 금액 표기, 카카오 우편번호 등 한국 서비스에 반복되는 부품을 묶은 React 디자인 시스템이다. 약 290개 스토리를 Chromium·WebKit·Firefox에서 라이트·다크 테마로 axe 검사하고, KWCAG 2.2 33개 항목별 대응 근거를 문서화했다. 브랜드 색 하나만 넣으면 글자 대비 4.5:1, 포커스 링 3:1을 자동으로 지키는 테마를 생성하며, vanilla-extract 기반으로 런타임 CSS가 없다. 서식·검증·마스킹 함수는 의존성 없는 별도 패키지로도 제공되며 MIT 라이선스다.
접근성을 ‘준수 선언’이 아닌 CI 파이프라인의 회귀 테스트로 고정한 것은, 비기능 요구사항을 측정 가능한 품질 게이트로 전환한 올바른 접근이다. 특히 KWCAG 항목별로 ‘라이브러리 책임’과 ‘사용자 책임’을 분리해 문서화한 점은 컴포넌트 재사용 시 품질 보증 범위가 어디까지인지를 명확히 하는 인터페이스 계약 역할을 한다. 다만 axe 같은 자동 검사가 잡아내는 접근성 결함은 일부에 불과하므로, 스크린리더 수동 점검 기록을 함께 공개한 부분이 오히려 이 프로젝트의 신뢰도를 결정하는 핵심이다.
11. 금융권 망분리 ‘전면 해제’ 시동…AI 방어막과 대체통제가 관건
망분리 제로트러스트 N2SF 금융보안 AI보안
금융위원회가 9월 말 이후 37개사 40건, 47만3000건 정보유출 사고를 계기로 ‘망분리 규제 전면 해제 TF’를 이달부터 가동한다. TF는 AI·보안 역량이 검증된 금융사를 대상으로 엄격한 대체통제 아래 망분리 해제를 논의하고, N2SF·제로트러스트·보안 내부통제·침해사고 대응체계를 포함한 AI 기반 신보안체계를 내년 1분기까지 마련한다. 보안 목적 AI·SaaS 활용을 위한 규제 완화도 상시 제도화하되, 외부접점·인증·접근통제 관리를 대체통제 수단으로 함께 갖추도록 할 계획이다.
망분리 해제는 보안 수준을 낮추는 것이 아니라 경계 기반 모델에서 신원·세션·데이터 단위 통제로 통제 지점을 옮기는 아키텍처 전환이다. 이때 대체통제의 실효성은 정책 문서가 아니라 자산·외부접점 인벤토리의 완전성, 지속적 인증, 마이크로 세그멘테이션, 로그 기반 탐지 체계가 실제로 맞물리는지에서 판가름 난다. 이번 침해사고가 관리가 소홀한 주변 시스템에서 발생했다는 점에서, 망을 열기 전에 미등재 자산부터 식별하는 것이 제로트러스트의 첫 단계다.
12. 패스키·양자내성암호·API 점검까지…개인정보 안전조치 안내서 전면 개정
개인정보보호 침투테스트 API보안 양자내성암호 패스키
개인정보보호위원회가 개정된 ‘개인정보의 안전성 확보조치 기준’을 반영한 안전조치 안내서를 발간했다. 공공시스템의 취약점 점검과 침투테스트를 연 1회 이상 실시하고 발견된 취약점을 지체 없이 개선하도록 한 의무에 대한 해설과 질의응답이 핵심이다. 인증수단 예시를 패스키·QR코드·모바일 앱을 포함한 12종으로 늘리고, 양자내성암호 도입, 암호키 평문 저장 금지, API 보안 점검, 잦은 비밀번호 변경의 역효과 등 최신 논의도 반영했다.
이번 개정의 본질은 ‘주기적 비밀번호 변경’ 같은 형식 준수형 통제에서 위험 기반 통제로 기준점을 옮긴 것이다. 특히 API 보안 점검과 암호키 평문 저장 금지는 시스템 간 연계 구간과 시크릿 관리가 실제 유출의 주 경로라는 점을 반영한 것으로, Vault·KMS 기반 키 관리와 API 게이트웨이 단의 인증·호출 이력 관리가 사실상 기본 요건이 된다. 양자내성암호는 당장 교체보다 암호 자산 인벤토리와 crypto-agility 확보부터 시작해야 전환 비용을 통제할 수 있다.
13. 섀도 AI·MCP 침투 막는다…테이텀, AI 에이전트 통합 보안 플랫폼 ‘클릭’ 출시
AI에이전트 MCP 섀도AI 프롬프트인젝션 AI거버넌스
테이텀이 기업 내 AI 에이전트를 발견·위협 차단·정책 기반 조치·감사 기록의 단일 체계로 관리하는 통합 보안 플랫폼 ‘클릭’을 출시했다. 임직원 단말의 에이전트와 연결 도구를 자동 식별하고, LLM 게이트웨이로 입출력을 검사해 민감정보 유출을 막는다. AI 레드티밍으로 에이전트의 도구 연결과 권한 관계를 분석해 침투 가능성을 검증하며, 2027년 시행 예정인 금융보안원 ‘AI 에이전트 보안 평가기준’ 대응도 지원한다.
AI 에이전트 보안의 핵심 단위는 모델이 아니라 ‘에이전트-도구-권한’의 연결 그래프이며, MCP 서버 하나가 곧 새로운 권한 위임 경로가 된다. 에이전트는 사용자 권한을 그대로 상속하므로 최소 권한 원칙을 에이전트 단위 서비스 계정과 도구별 스코프로 분리하지 않으면 감사 로그가 있어도 책임 추적이 불가능하다. LLM 게이트웨이 기반 입출력 검사는 필요조건일 뿐이고, 비가역적 명령 실행에 대한 승인 게이트를 아키텍처 수준에서 강제하는 것이 실질적 통제선이다.
14. 패치 공개 몇 시간 만에 공격 코드…‘머신 스피드’ AI 공격이 패치 골든타임을 무너뜨린다
머신스피드 패치관리 CVSS 공급망보안 혼동된대리인
구글 클라우드 아태 시큐리티 서밋에서 구글 위협 인텔리전스와 맨디언트는 공격자가 프론티어 모델로 보안 패치를 수 시간 만에 역공학해 PoC를 만드는 ‘머신 스피드’ 공격이 현실화됐다고 경고했다. 생성형 AI로 한국어·일본어 등 언어 장벽이 해체됐고, 탈취된 AI 계정이 정가의 1% 수준에 거래되며 공격 비용도 급락했다. 맨디언트는 DB·터미널·CI/CD 권한을 가진 자율 에이전트를 노린 ‘혼동된 대리인’ 공격, 슬롭 스쿼팅, 저위험 결함 연쇄 체이닝을 지적하며 탐지 중심에서 ‘검증·수정 우선’ 체계로의 전환을 제안했다.
패치 공개 자체가 공격 설계도가 되는 상황에서 48~72시간 패치 SLA는 더 이상 위험 수용 기준이 될 수 없으며, 패치 파이프라인의 자동화와 가상 패치(WAF·IPS 룰) 선적용이 기본 설계가 되어야 한다. 단일 CVSS 점수 기반 우선순위는 저위험 결함 간 체이닝을 반영하지 못하므로, 자산 노출도와 공격 경로를 결합한 공격 표면 관리 모델로 취약점 관리 체계를 재설계해야 한다. 에이전트에 대한 통제 역시 프롬프트 지침이 아니라 권한 경계와 실행 샌드박스 같은 하드 컨트롤로 구현해야 한다는 점이 핵심이다.
15. 리눅스 커널 공격 코드 948건 생성…오픈AI ‘GPT-6 사이버’ 공격 성공률 51% 향상
GPT-6사이버 취약점분석 익스플로잇 리눅스커널 AI보안
오픈AI가 취약점 발견·공격 코드 개발·침투 테스트에 특화한 ‘GPT-6 사이버’를 승인된 보안 전문가와 기업 대상으로 출시했다. 리눅스 커널 취약점 1724건을 재현해 948건의 권한 상승 공격 코드를 개발했고, 그중 588건은 알려지지 않은 취약점이었으며, 파이어폭스에서도 고위험 취약점 81건을 새로 찾았다. ExploitGym 벤치마크에서 48.5%로 이전 모델 대비 상대적으로 51% 개선됐지만, 일부 평가에서는 범용 모델에 못 미쳤고 팔로알토 네트웍스 등 보안 기업을 통한 기업 시장 진출도 본격화하고 있다.
공격 코드 자동 생성 능력이 상용화됐다는 것은 취약점의 ‘발견 비용’이 급락하고 ‘수정 비용’이 병목이 되는 비대칭 구조가 고착된다는 의미다. 방어 측은 같은 계열의 모델을 SDLC의 CI 단계에 통합해 배포 전 자동 익스플로잇 검증을 수행하지 않으면 공격자와의 속도 격차를 좁힐 수 없다. 동시에 이런 모델에 대한 접근 승인·사용 로그 관리는 이중 용도 기술에 대한 KYC 체계로 보아야 하며, 기업 도입 시 사용 범위와 대상 자산을 명시한 권한 통제가 선행되어야 한다.
16. “보안은 CEO 책임”…금융위, 580개 금융사 보안 전수점검 극약처방
금융보안 IT거버넌스 CEO책임 전자금융거래법 자산관리
이억원 금융위원장이 9월 말 이후 37개 금융사에서 침해사고가 잇따르자 전 금융권 CEO에게 비상대응반을 즉시 구성하라고 주문하고 약 580개 금융사에 대한 보안 전수점검에 착수했다. 외부접점 시스템과 내부통제를 연말까지 점검하며, 중대한 취약점이 발견되면 즉시 서비스를 중단하고 관리 부실 시 CEO를 포함한 경영진 책임을 묻는다. 대형사의 취약점 분석·평가 주기를 연 2회로 늘리고, 장기 방치 시 시정명령·이행강제금을 부과하는 전금법 개정과 가상자산사업자 등에 보안규율을 적용하는 ‘디지털금융 안전법’도 추진한다.
점검 대상을 ‘관리대장 등재 외부접점’과 ‘미등재 시스템’으로 나눈 것은 이번 사고의 근본 원인이 자산 식별 실패, 즉 IT 자산관리(ITAM)와 CMDB의 공백에 있음을 정부가 인정한 것이다. CEO 책임 강화는 보안을 IT 부서의 비용센터가 아니라 이사회 수준의 리스크 거버넌스로 끌어올리는 구조적 조치이며, CISO의 보고 라인과 예산 독립성이 함께 보장되지 않으면 형식적 책임 전가로 끝난다. 점검 품질까지 사후 추궁하겠다는 방침은 점검 결과의 증적 관리와 재현 가능성을 체계적으로 갖춰야 함을 뜻한다.
17. ‘단순 충돌 버그’가 원격 코드 실행으로…AI가 40년 기술 부채 청구서를 내밀다
기술부채 PHP2Shell 레거시시스템 SBOM 취약점관리
2024년 신고 후 단순 충돌 버그로 방치됐던 PHP 메모리 오류가 AI의 도움으로 서버 임의 코드 실행 취약점 ‘PHP2Shell’로 확인됐다. 연구자가 AI로 2주 만에 악용 방법을 찾은 반면 엔지니어 4명이 패치를 만드는 데는 2개월이 걸려 발견과 수정의 비대칭이 드러났다. 이 취약점은 NASA·위키피디아·백악관과 WordPress/Drupal 기반 사이트를 위험에 노출했으나 다행히 악용 전에 패치가 배포됐고, 전문가들은 방어 측 AI 접근 확대와 형식 검증을 통한 패치 자동화를 대안으로 제시했다.
버그 트래커의 ‘crash only’ 분류가 더 이상 안전 판정이 아니라는 점이 이번 사례의 핵심이며, 메모리 안전성 결함은 익스플로잇 가능성을 기본 가정으로 재분류해야 한다. 레거시 런타임에 의존하는 시스템은 SBOM 기반으로 구성요소를 식별하고 업그레이드 경로를 확보해 두지 않으면, AI가 앞당긴 공개 일정을 따라갈 수 없다. 기술 부채는 이제 유지보수 비용이 아니라 보안 리스크로 계량해 포트폴리오 차원의 현대화 우선순위에 반영해야 한다.
18. AI 에이전트도 대시보드와 같은 숫자를…도이치텔레콤 ‘시맨틱 쿼리 엔진’ sutura 공개
시맨틱레이어 데이터거버넌스 MCP AI에이전트 데이터리니지
sutura는 AI 에이전트가 회사가 정의한 지표 기준으로 데이터를 조회하도록 하는 Rust 기반 시맨틱 데이터 런타임으로, HTTP와 MCP로 연결된다. 임의 SQL 대신 지표·분류 기준·기간·집계 단위만 받아 카탈로그의 지표 정의로 SQL을 생성하고, 여러 소스 질의는 DataFusion에서 결합한다. 결과에 지표 정의 버전과 해시를 포함해 추적성을 확보하고, 접근 권한·행 수준 정책·마스킹은 원천 데이터 시스템에 위임하며 사용자 간 결과 캐시를 두지 않는다.
LLM에 Text-to-SQL을 직접 맡기는 구조는 지표 정의 불일치와 권한 우회라는 두 가지 거버넌스 리스크를 동시에 안고 있으며, sutura는 시맨틱 레이어를 에이전트와 데이터 사이의 정책 집행 지점으로 두어 이를 해소한다. 결과에 지표 정의 해시를 남기는 설계는 데이터 리니지를 응답 단위까지 확장한 것으로, AI 산출물의 감사 가능성을 확보하는 실용적 패턴이다. 권한 통제를 원천 DB에 위임하고 결과 캐시를 두지 않은 결정은 성능을 일부 희생하더라도 신원 전파의 일관성을 우선한 올바른 트레이드오프다.
19. 이 답변, 정말 그 모델이 썼나…Anthropic, 영지식 증명 기반 ‘FlashProve’ 공개
검증가능한추론 zkSNARK AI신뢰성 모델출처 Anthropic
Anthropic이 가중치를 공개하지 않고도 응답이 사전에 지정된 모델에서 나왔는지 검증하는 오픈소스 연구 프로토타입 FlashProve를 공개했다. zkSNARK 기반으로 모델 제공자가 가중치를 암호학적으로 확정하고 응답마다 증명을 붙이면, 사용자는 모델을 재실행하지 않고도 모델 바꿔치기나 응답 변조를 확인할 수 있다. 4비트 Llama 4 Maverick 400B 기준 H100 한 장으로 초당 약 110토큰의 증명을 생성하지만, GPU 시간이 일반 추론의 70~95배이고 1,024토큰 문맥·그리디 디코딩만 지원하는 한계가 있다.
AI 공급망에서 ‘어떤 모델이 실제로 실행됐는가’는 그동안 계약과 신뢰에만 의존하던 영역이었으며, 검증 가능한 추론은 이를 암호학적 증적으로 대체해 모델 출처를 감사 가능한 속성으로 만든다. 다만 70~95배의 연산 오버헤드는 전수 적용이 아닌 샘플링 감사나 고위험 의사결정 구간에 선택 적용하는 설계를 전제로 해야 한다. TEE의 하드웨어 신뢰 가정과 상호 보완적이라는 점에서, 규제 대응용 AI 감사 체계는 두 방식을 계층적으로 조합하는 방향이 현실적이다.
20. 주민투표 39대 1…미국 유권자, AI 데이터센터에 압도적 ‘반대’
데이터센터 AI인프라 전력 사회적수용성 용량계획
미국 중간선거와 함께 10개 주에서 실시된 AI 데이터센터 관련 주민투표 40건 중 39건에서 건설 제한을 지지하거나 개발 허용에 반대하는 결과가 나왔다. 주민 반발은 전기요금 상승, 전력·용수 사용, 소음과 환경 문제에 집중됐고, 텍사스·조지아 등에서는 데이터센터 규제를 공약한 후보들이 주지사에 당선됐다. 골드만삭스는 규제 강화 가능성이 있는 주에 미국 신규 데이터센터 계획 용량의 약 45%가 몰려 있다고 분석해 AI 인프라 투자에도 영향이 예상된다.
AI 인프라의 병목이 GPU 공급에서 전력·용수·입지 인허가라는 사회적 수용성으로 이동했음을 보여주는 신호다. 컴퓨팅 용량 계획은 이제 PUE·WUE 같은 효율 지표뿐 아니라 지역 전력망 부하와 인허가 리스크까지 포함한 총소유비용 모델로 재설계해야 하며, 이는 클라우드 리전 선택과 멀티 리전 전략에도 직접 영향을 준다. 국내 역시 수도권 전력 계통 제약과 분산에너지법 흐름 속에서 데이터센터 입지 문제가 동일한 구조로 전개될 가능성이 높다.
21. 65B가 816B를 이겼다? 파라미터 수보다 ‘활성 연산량’을 봐야 하는 이유
오픈웨이트 코딩에이전트 Dense MoE 벤치마크
구글 알파칩 개발진이 설립한 리커시브 인텔리전스가 650억 매개변수 밀집형(Dense) 오픈웨이트 모델 ‘리플-65B 프리뷰’를 공개했다. 터미널벤치 2.1에서 80.52점, SWE-벤치 프로 v2.0 하드에서 79.1점을 기록해 최대 15배 큰 미국 오픈웨이트 모델들을 앞섰다. 다만 딥SWE 1.1에서는 뮤즈 스파크 오픈에 크게 뒤졌고, 비교 점수 일부는 자체 측정이라 우위를 확정하기 어렵다는 지적도 나온다. 총 개발비는 3200만달러로 기존 선두 모델의 약 10분의 1 수준이다.
Dense 65B와 MoE 500B급을 ‘총 파라미터’로 비교하는 것은 착시이며, 추론 비용은 토큰당 활성 파라미터와 KV 캐시 메모리, 100만 토큰 컨텍스트 운용 비용으로 따져야 한다. 벤치마크별 편차가 큰 만큼 도입 판단은 공개 점수가 아니라 자사 코드베이스·툴체인에서 돌린 내부 평가셋으로 내려야 한다. 오히려 주목할 지점은 65B Dense라면 온프레미스 GPU 몇 장으로 서빙 가능한 규모라는 점으로, 코드 유출이 민감한 조직에 폐쇄망 코딩 에이전트의 현실적 선택지가 생겼다는 의미다.
22. AI가 AI를 만든다…앤트로픽 개발 속도 1.9배, 가속분 80%가 AI 덕
재귀적자기개선 AI거버넌스 METR 앤트로픽 AI안전
AI 안전 연구기관 METR이 앤트로픽 내부 자료와 직원 인터뷰를 바탕으로 한 독립 평가 보고서를 공개했다. 지난해 10월 이후 모델 성능 개선 속도가 이전 대비 약 1.9배 빨라졌으며, 가속분의 약 80%를 AI의 R&D 활용 효과로 추정했다. 훈련 컴퓨팅 증가가 아닌 연구 방식 자체의 변화가 원인으로 지목됐고, 외부에 공개되지 않은 모델 3개의 존재도 확인됐다. 아직 AI가 핵심 연구를 완전 자율 수행하는 단계는 아니지만 독자 기여의 초기 징후가 관찰됐다.
병목이 ‘코드 작성’에서 ‘아이디어와 컴퓨팅’으로 이동했다는 증언은 소프트웨어 개발 프로세스의 제약 이론(TOC)상 병목 지점이 바뀌었다는 뜻이며, 일반 기업 개발 조직에도 같은 재편이 순차적으로 도달한다. 공개 모델과 내부 모델 간 성능 격차가 구조화되면 외부 사용자가 체감하는 역량과 실제 프런티어 사이의 정보 비대칭이 커지므로, 독립 기관의 내부 접근 평가 같은 감사 체계가 AI 거버넌스의 핵심 통제 장치가 된다. 12배 생산성 같은 자기 보고 지표는 측정 근거가 약하므로 조직 내 AI 도입 효과 역시 리드타임·결함률 같은 객관 지표로 측정해야 한다.
23. 문장 대신 ‘점수’로 답한다…카카오, 0.04초 에이전트 판단 모델 오픈소스 공개
AI에이전트 의사결정모델 카카오 구조화출력 오픈소스
카카오가 AI 에이전트용 멀티모달 의사결정 모델 ‘카나나-2-v-디사이드’를 허깅페이스에 공개했다. 자연어 대신 확률·선택·점수 등 규격화된 출력을 제공해 고객 문의 분류, 도구 선택, 상품 이미지 판단 등에 활용된다. 3B 기반 경량 모델로 H200 1장 기준 평균 응답 0.04초를 기록했으며, 자체·공개 벤치마크에서 비교 모델 중 최고 성능을 보였다. 상업적 활용이 가능한 라이선스를 적용했다.
에이전트 아키텍처에서 라우팅·분류·도구 선택 같은 결정 노드를 범용 LLM에서 분리해 경량 전용 모델로 두는 것은 지연시간과 비용, 출력 파싱 실패를 동시에 줄이는 올바른 계층 분리다. 확률값을 반환한다는 점이 핵심으로, 신뢰도 임계값 기반으로 사람 검토나 상위 모델로 에스컬레이션하는 분기 로직을 설계할 수 있게 된다. 다만 판단 모델은 도메인 분포가 바뀌면 조용히 성능이 떨어지므로 결정 로그 기반의 드리프트 모니터링과 재학습 파이프라인을 처음부터 함께 설계해야 한다.
24. 바이브 코딩의 끝은 운영 장애? 인스웨이브가 내건 ‘AI 코딩 하네스’
AI코딩 하네스 바이브코딩 금융IT 품질보증
인스웨이브가 UI 플랫폼 웹스퀘어를 AI 생성 코드가 기업 운영 환경의 구조·규칙·검증을 통과하도록 만드는 ‘AI 코딩 에이전트 하네스’로 재정의했다. 어떤 AI 모델이 코드를 만들든 구조, 규칙, 검사, 실행, 검증의 5개 층을 거쳐 같은 기준으로 검사한다는 구상이다. 가치를 개발 속도가 아닌 정합성·규제 대응·성능에 두고, 금융권 검증 이력을 바탕으로 공공·2금융권·일본 시장으로 확대할 계획이다.
AI 코딩 도입의 성패는 모델 성능이 아니라 생성물을 제약하고 검증하는 하네스, 즉 표준 프레임워크·정적 분석·테스트·배포 게이트의 완성도에서 갈린다. 모델 중립적으로 동일 기준을 적용한다는 설계는 모델 교체 시 품질 편차를 흡수하는 추상화 계층으로서 타당하며, 금융권 전자금융감독규정 대응 관점에서도 감사 추적성을 확보하는 구조다. 다만 특정 UI 플랫폼에 종속된 하네스는 벤더 락인을 심화시키므로, 규칙과 검증 기준을 플랫폼 밖에서 코드로 관리(Policy as Code)할 수 있는지가 도입 평가의 핵심 기준이다.
25. 클라우드플레어 CEO의 경고: AI가 찾아낸 취약점 쓰나미, 2년은 간다
취약점 클라우드플레어 제로트러스트 AI에이전트보안 패치관리
매슈 프린스 클라우드플레어 CEO가 3분기 실적 발표에서 AI가 기존 소프트웨어의 숨은 취약점을 대량 발굴하면서 향후 2년간 심각한 보안 위협이 이어질 것이라고 경고했다. 최근 2주 사이에만 심각한 취약점 6개가 공개됐으며, 주요 AI 연구소로부터 미공개 취약점 정보를 사전 공유받아 대응하고 있다고 밝혔다. 금융기관 중심으로 대규모 보안 계약과 통합 플랫폼 선택이 늘고, AI 에이전트 신원·접근통제 수요도 커지고 있다. 클라우드플레어 3분기 매출은 전년 대비 39% 증가했다.
취약점 발견 속도가 패치 배포 속도를 구조적으로 앞서는 국면에서는 ‘빠른 패치’만으로 버틸 수 없으며, WAF 가상 패치와 네트워크 세분화처럼 패치 전 노출 시간을 줄이는 보완 통제가 1차 방어선이 된다. 미공개 취약점을 사전 공유받는 대형 벤더 생태계 안과 밖의 대응 시차가 곧 보안 격차가 되므로, 자산 인벤토리와 SBOM으로 영향 범위를 즉시 산출할 수 있는 체계가 중소 조직의 최소 조건이다. AI 에이전트를 사람·서비스 계정과 구분된 별도 신원 주체로 IAM에 편입하는 작업도 지금 설계해야 할 과제다.
26. 리눅스 커널 익스플로잇 948건 자동 개발…오픈AI ‘GPT-6 사이버’가 연 양날의 검
GPT-6사이버 취약점분석 익스플로잇 이중사용 보안자동화
오픈AI가 취약점 검증과 보안 패치 개발에 특화된 ‘GPT-6 사이버’를 승인된 일부 고객에게 API와 코덱스로 우선 제공한다. 파이어폭스에서 고위험 취약점 81건을 찾았고, 리눅스 커널 취약점 1724건을 재현해 948건의 익스플로잇을 개발했으며 304건은 패치 후보와 함께 보고했다. 익스플로잇짐 성공률은 48.5%로 이전 모델 대비 16.4%p 상승했고, 승인 범위를 벗어난 공격 비율은 5.51%에서 0.07%로 줄었다. 고위험 요청 차단과 작업 범위 준수 모니터링 등 안전장치도 강화했다.
익스플로잇 개발까지 자동화된다는 것은 취약점 우선순위를 CVSS 점수가 아닌 ‘실제 악용 가능성 검증 결과’로 정하는 방향으로 취약점 관리 프로세스가 재편된다는 뜻이다. 승인 범위 이탈률 0.07%는 낮아 보이지만 대량 자동 실행 환경에서는 절대 건수로 환산해 평가해야 하며, 결국 모델 자체 정렬보다 실행 샌드박스와 대상 범위를 강제하는 인프라 통제가 최종 안전장치다. 오픈소스 유지관리자에게 패치 후보가 쏟아지면 리뷰 용량이 새로운 병목이 되므로, 공급망 보안 관점에서 업스트림 패치 반영 지연을 추적하는 체계가 함께 필요하다.
27. “막으면 우회한다”…토스 CISO가 말하는 ‘가능하게 하는 보안’
토스 CISO AI게이트웨이 SASE 보안거버넌스
토스가 보안 콘퍼런스 ‘가디언즈 26’에서 생성형 AI 시대 금융 보안 전략을 공개했다. 지정호 CISO는 월간 CVE가 8개월 만에 2배로 늘고, AI 발굴 CVE의 50%가 RCE이며, 공개 후 악용까지 중간값이 80일로 단축됐다는 데이터를 제시했다. 토스는 AI 게이트웨이, AI 에이전트 통제, 격리된 바이브 인프라라는 3대 통제 체계를 구축했고, 최종 판단은 사람이 하는 ‘AI 네이티브 보안’을 운영한다. 자체 개발 SASE ‘타이탄’도 전사 배포를 마쳤다.
차단 중심 보안은 섀도 IT를 양산해 가시성을 잃게 만든다는 판단은 정확하며, 토스의 3대 통제는 AI 사용을 막는 대신 ‘통과 경로를 단일화해 관측 가능하게 만드는’ 아키텍처 원칙의 구현이다. 특히 에이전트를 명령 실행 권한을 가진 주체로 정의한 것은 에이전트를 도구가 아닌 IAM의 신원으로 다루는 핵심 전환으로, 최소 권한·사전 승인·감사 로그 체계를 그대로 적용할 수 있게 한다. 악용 주기 80일 대 패치 주기 주·월 단위의 격차는 패치 프로세스를 개선하는 것만으로 메울 수 없으며, 위험 기반 우선순위와 보완 통제를 결합한 노출 관리(CTEM) 체계로 접근해야 한다.
28. 망분리 다음 단계 N2SF, 공공기관이 업무망에서 생성형 AI 쓰는 법
N2SF 망분리 CDS OT보안 공공보안
휴네시온이 BIXPO 2026에서 국가 망 보안체계(N2SF) 기반 솔루션과 산업제어망 보안 기술을 선보였다. KISA 지원사업으로 한국부동산원에 업무망 생성형 AI 활용(모델 2)과 업무 단말 인터넷 이용(모델 4) 체계를 컨소시엄으로 구축하고 있다. 보안영역 간 데이터 전송 통제 CDS와 NAC를 중심으로 구성했으며, OT 환경용으로 물리적 일방향 전송 ‘아이원넷 DD’와 세션 없는 양방향 연계 ‘아이원넷 DX’도 전시했다.
N2SF는 일괄 물리 망분리에서 데이터 등급(기밀·민감·공개) 기반 차등 통제로 전환하는 패러다임 변화이며, 성패는 솔루션이 아니라 업무 데이터 분류 체계를 얼마나 정확히 정의하느냐에 달려 있다. 업무망에서 생성형 AI를 쓰는 순간 프롬프트와 응답이 곧 등급 간 데이터 이동이 되므로, CDS의 정책은 파일 단위가 아닌 콘텐츠 단위 검사로 진화해야 한다. OT 영역의 일방향 전송은 여전히 가장 확실한 통제지만, 원격 유지보수 수요로 생기는 예외 경로가 실제 침투 지점이 되는 만큼 예외 승인 관리가 핵심이다.
29. DB 계정이 털려도 원문은 안 보인다…동형암호 DB 보안 ‘헤라클레스’ 출시
동형암호 DB보안 개인정보보호 암호화 크립토랩
크립토랩이 동형암호 기반 DB 보안 솔루션 ‘헤라클레스’를 출시했다. 복호화 없이 검색·연산이 가능해 DB 조회 권한이 탈취돼도 원문 노출을 막도록 설계됐다. 포스트그레SQL 환경 모의해킹에서 일반 DB는 원문 1000건이 노출된 반면 헤라클레스 적용 환경에서는 노출이 없었다. 플러그인·API·하이브리드 방식으로 기존 DB를 크게 바꾸지 않고 온프레미스와 클라우드에 적용할 수 있다.
기존 DB 암호화(TDE, 컬럼 암호화)는 저장 시 보호일 뿐 정상 조회 경로로는 평문이 나오므로, 계정 탈취 시나리오를 막는다는 점이 동형암호의 차별점이다. 그러나 동형암호는 연산 종류에 따라 성능 오버헤드가 수십~수천 배까지 커지고 범위 검색·정렬·조인 지원이 제한되므로, 전체 DB가 아닌 고위험 컬럼에 선택 적용하고 쿼리 패턴 기반 성능 검증을 선행해야 한다. 키 관리 주체와 복호화 지점이 어디인지가 실제 보안 경계를 결정하므로, 도입 평가 시 키 관리 아키텍처를 가장 먼저 확인해야 한다.
30. 백신 버튼 하나로 취약 SW 555만건 조치…KISA 클리닝 서비스, 조치율은 45%
KISA 취약점관리 패치관리 백신 정보보호정책
KISA가 백신 프로그램과 연계한 ‘보안 취약점 클리닝 서비스’로 8개월간 PC 8030만건을 점검해 취약 SW 1231만건을 탐지하고 555만건을 조치했다. 이용자는 별도 설치 없이 기존 백신에서 알림을 받고 버튼 한 번으로 삭제·업데이트할 수 있다. 백신사 4곳이 참여했으며 해킹 위험도가 높은 SW 4종을 중점 관리했다. 내년에는 점검 대상 SW를, 2028년부터 참여 백신사를 확대한다.
이미 설치된 백신을 배포 채널로 재활용한 것은 별도 에이전트 없이 커버리지를 확보한 효율적인 설계로, 개인 PC 영역의 패치 관리 공백을 국가 차원에서 메운 의미가 있다. 다만 조치율 45.1%는 탐지된 취약 SW의 절반 이상이 그대로 남는다는 뜻이며, 사용자 클릭에 의존하는 구조의 한계를 보여준다. 기업 환경이라면 같은 문제를 PMS와 자산관리 연동 강제 배포로 풀어야 하며, 조치율 대신 ‘미조치 자산의 잔존 기간’을 핵심 지표로 관리해야 한다.
오늘의 추천
이 포스팅은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다.