AI 통제 대상이 말에서 행동으로 넘어간다 등: 2026-11-02
오늘 10개의 뉴스를 골랐습니다.
1. AI 통제 대상이 말에서 행동으로 넘어간다
AI가드레일 AI에이전트 AI거버넌스 레드팀
국내 솔루션 기업들이 AI 가드레일 시장에 잇달아 진출하고 있다. 제논은 자연어 정책 기반 ‘젠가드’를, 에임인텔리전스는 가드레일 ‘스타포트’와 레드팀 ‘스팅어’를, 라온시큐어는 ‘원쉴드’를 내놓았다. 에이전트가 확산하면서 통제 범위가 텍스트 입출력에서 에이전트의 행동으로 넓어지고 있다.
입출력 필터만으로는 에이전트 통제가 성립하지 않으며, 도구 호출 권한과 실행 범위를 정책 엔진에서 판정하는 행동 단위 통제 계층이 필요하다. 자연어 정책은 도입이 쉬운 대신 판정 결과가 비결정적이므로, 감사 로그와 정책 버전 관리, 레드팀 결과의 회귀 테스트를 묶어 운영해야 거버넌스로 인정받는다. 가드레일은 제품 구매로 끝나지 않고 모델·프롬프트가 바뀔 때마다 재평가하는 운영 프로세스로 설계해야 한다.
2. AI가 피해자 ‘몸값’까지 매긴다, 거부하면 다른 모델로 갈아타는 악성코드
정보탈취악성코드 LLM악용 엔드포인트보안 위협인텔리전스
시스코 탈로스가 AI로 피해자의 자산 가치를 평가하는 정보 탈취 악성코드 ‘볼타’를 발견했다. 브라우저 정보와 구매 내역 등을 수집해 OpenRouter 경유로 클로드 오퍼스 4.6에 분석을 맡기고, 거부되면 키미 K2와 제미나이 2.5 플래시로 전환한다. 분석은 감염된 PC에서 이뤄지고 결과는 텔레그램으로 전달된다.
모델 제공사의 안전장치는 단일 방어선일 뿐이며, 모델 라우팅 폴백 구조 때문에 한 곳이 거부해도 공격은 계속된다는 점을 전제로 설계해야 한다. 이 악성코드는 분석 트래픽이 피해자 PC에서 외부 LLM API로 나가므로, 엔드포인트에서 LLM API·라우터 도메인으로의 비인가 egress를 탐지하는 것이 새로운 IOC가 된다. 탈취 후 분석 단계가 자동화되면 공격자의 선별 속도가 빨라지므로 자격증명 탈취 자체를 막는 세션 토큰 바인딩과 브라우저 저장 비밀번호 금지 정책이 우선이다.
3. 채용 담당자로 위장해 개발자를 노린다, 북한 해킹 조직의 분업 구조
북한해킹 APT 사회공학 가상자산
트레이더트레이터는 가상자산 거래소를, 김수키는 외교·안보 전문가를, 안다리엘은 방산·원자력 기술을 노리는 등 북한 해킹 세력은 목적별로 나뉘어 활동한다. 사이버전 인력은 8400여명으로 추정되며, 이들은 AI를 표적 조사와 악성코드 개발에 활용한다. 김수키는 로컬 LLM과 RAG 환경까지 구축한 정황이 공개됐다.
공격 조직이 목적별로 전문화되어 있으므로 위협 모델도 자산 유형별로 달리 세워야 하며, 가상자산 사업자의 핵심 위협은 서버 취약점이 아니라 개발자·IT 직원 대상의 채용 위장 사회공학이다. 채용시험 과제나 코딩 테스트 형태의 파일 실행은 업무용 단말과 분리된 샌드박스 환경에서만 허용하는 통제가 필요하다. 탈취 자료를 로컬 LLM과 RAG로 분석하는 단계까지 자동화되고 있어, 침해 후 유출 데이터의 활용 속도가 빨라진다는 점을 대응 시나리오에 반영해야 한다.
4. 농협 전산망 마비에서 8조원 탈취까지, AI를 얹은 북한 사이버전
북한해킹 공급망공격 AI악용 개발환경보안
북한의 공격 목적은 전산망 파괴와 정보 탈취에서 가상자산 탈취로 이동해 왔다. 올해 가상자산 해킹 피해의 85%가 북한 연계 조직 소행이며, 바이낸스 사건 피해액은 약 63억 달러다. MS와 구글은 북한 조직이 AI를 피싱 문서 제작, 악성코드 개발, SW 공급망 공격에 쓰고 있다고 밝혔다.
AI 활용의 핵심은 공격 기법의 혁신보다 준비 비용의 하락이며, 맞춤형 피싱 문서를 수분 만에 수십 건 만드는 수준이면 사용자 교육만으로는 방어선이 되지 못한다. 개발자 저장소와 AI 코딩 도구 설정 파일을 변조해 백도어를 실행시키는 수법이 확인됐으므로, 저장소 서명 검증, 코딩 도구 설정의 무결성 점검, 에이전트 도구 권한 최소화를 개발환경 보안 기준에 포함해야 한다. 개발 단말은 이제 일반 업무 단말이 아니라 공급망의 시작점으로 분류해야 한다.
5. AI가 취약점 찾는 속도에 패치 체계가 못 따라간다
섀도IT 공급망보안 시크릿관리 패치관리
OWASP 서울 챕터 세미나에서 10월 보안사고가 분석됐다. 금융권 유출은 외주 개발 서비스 등 보안팀 시야 밖의 섀도 자산에서 시작됐고, AI 침투 도구 아르텍스는 클라우드 앱 권한 장악까지 3시간이 걸리지 않았다. LiteLLM은 폐기하지 않은 관리 키 때문에 악성 버전이 배포됐다.
공격 쪽은 AI로 취약점 탐색 속도가 급등했는데 방어 쪽 패치는 하위 호환성 검증이라는 물리적 시간이 필요하므로, 패치를 기다리는 구조로는 시차를 메울 수 없다. 따라서 외부 노출 자산 인벤토리, 가상 패치(WAF/RASP), 키 노출 시 즉시 폐기하는 절차를 상시 통제로 갖춰야 한다. 저장소에서 파일만 지우고 키를 폐기하지 않은 사례는 비밀정보 스캐닝과 자동 로테이션이 없으면 같은 사고가 반복된다는 점을 보여준다.
6. 급여 계좌부터 가족 주민번호까지, 더존비즈온 해킹이 ‘중대 사고’인 이유
더존비즈온 개인정보유출 ERP 수탁사관리
더존비즈온의 스마트 A10과 APO 백업 서버가 두 차례 해킹당해 민관합동조사단이 구성됐다. 스마트 A10은 11만 개 이상 기업이 쓰는 ERP로, 임직원 주민번호와 급여 계좌, 연말정산용 가족 정보까지 담긴다. 유출 규모는 조사 중이며 정교한 2차 피싱 공격이 우려된다.
단일 SaaS·ERP 사업자에 다수 중소기업의 인사·재무 데이터가 집중되면 사업자 한 곳의 침해가 곧 수만 개 기업의 사고가 되므로, 이는 개별 기업 문제가 아닌 집중 리스크다. 백업 서버까지 침해됐다는 점에서 백업 데이터도 운영 데이터와 같은 수준의 암호화, 접근통제, 보관 기간 최소화 대상으로 취급해야 한다. 이용 기업은 수탁사 보안 점검과 침해 통지 체계를 계약에 명시하고, 주민등록번호처럼 대체 불가능한 식별자의 보유 범위를 줄이는 데이터 최소화를 우선해야 한다.
7. 앤트로픽, 코딩 다음 승부처로 신약 개발을 꺼냈다
앤트로픽 신약개발 AI산업 IPO
앤트로픽이 S-1 상장 신청서에서 생명과학을 주요 성장 전략으로 제시했다. 상위 10대 제약사 중 9곳이 최소 10만 달러를 지출했고, 일라이 릴리는 직원 5만명에게 클로드를 제공한다. 자체 분자생물학 연구소와 바이오 기업 인수도 병행하지만 AI 설계 신약의 FDA 승인 사례는 아직 없다.
LLM 공급자가 모델 제공을 넘어 실험 장비 제어와 자체 검증 인프라까지 수직 통합하는 흐름이며, 도메인 데이터와 실험 피드백 루프를 쥔 쪽이 경쟁우위를 갖는다. 규제 산업에서 AI를 쓰려면 GxP 수준의 추적성, 모델 버전 고정, 결과 재현성이 필수라서 범용 챗 도입과는 시스템 요건이 다르다. 기업 입장에서는 특정 모델 의존이 심화되기 쉬우므로 연구 데이터와 워크플로를 모델 교체 가능하게 분리해 두어야 한다.
8. 1만8천 조합 하자 분류를 VLM 하나로, LH의 연 400만장 이미지 자동화
VLM 공공AI LH 이미지분류
슈퍼브에이아이가 LH에 VLM 기반 하자 자동 분류 시스템 1차 구축을 마쳤다. 5개 항목, 1만8000개 이상의 조합을 이미지 한 장으로 동시에 분류하고 판단 근거를 자연어로 제공한다. 월 30만장 규모를 실시간 처리하며 2차 사업의 목표는 정확도 90% 이상이다.
다단계 분류 파이프라인을 단일 VLM으로 통합하면 구조는 단순해지지만, 1만8000개 조합 중 어느 항목에서 오류가 나는지 추적하기 어려워지므로 항목별 정확도 모니터링이 필요하다. 상담원 판단 편차를 줄이는 데에는 효과적이나 자연어 판단 근거는 모델의 사후 설명일 수 있어, 신뢰도 낮은 건을 사람 검수로 넘기는 임계값 설계가 품질을 좌우한다. 축적된 분류 결과는 단지·자재·시공연차별 하자 이력 데이터로 자산화될 때 장기수선계획 같은 후속 활용의 가치가 생긴다.
9. 데이터센터는 짓는 단계부터 랜섬웨어를 고려한다
데이터센터보안 랜섬웨어 AIDC 행위탐지
체크멀이 신성이넥스와 데이터센터 플랫폼 DAM 비즈니스 파트너 계약을 맺었다. 안티랜섬웨어 ‘앱체크 프로’를 DAM 플랫폼과 연계해 AIDC와 IDC 구축 사업에서 공동 영업에 나선다. 시그니처가 아닌 상황 인식 기반 행위 탐지 엔진으로 신종·변종 랜섬웨어를 막는다는 전략이다.
보안을 구축 단계의 설계 요소로 묶어 제안하는 방향은 맞지만, 안티랜섬웨어 에이전트 하나로 데이터센터 랜섬웨어 대응이 완성되지는 않는다. 행위 기반 탐지는 오탐과 성능 오버헤드가 검증 대상이며, GPU 서버처럼 처리량이 중요한 AIDC 워크로드에서는 에이전트 영향도를 사전에 측정해야 한다. 탐지보다 중요한 것은 불변 백업, 네트워크 분리, 복구 시간 목표(RTO) 검증이라는 점을 설계에서 함께 다뤄야 한다.
10. 20분 만에 10개 체인 털린 바이낸스, 핵심은 격리와 권한관리
바이낸스 권한관리 망분리 서킷브레이커
SOC레이더는 바이낸스 해킹이 데브옵스 엔지니어 개인 노트북 감염에서 시작됐다고 분석했다. 공격자는 EIP-7702로 한 트랜잭션에 50개 권한 부여 요청을 넣어 내부 출금 승인 시스템이 정상 서명을 발급하게 했고, 20분 만에 10개 블록체인 자산을 빼냈다. 권고안은 서명 경로의 체인별 격리, 단말의 티어제로 관리, 출금 서킷 브레이커다.
개인키 유출 없이 승인 시스템이 스스로 서명을 발급했다는 점은, 서명 서비스가 요청의 출처뿐 아니라 내용의 정당성까지 독립적으로 검증해야 한다는 설계 원칙을 확인해 준다. 체인별·지갑 등급별 서명 경로 분리는 폭발 반경을 제한하는 구조이며, 출금 한도와 속도에 대한 서킷 브레이커는 침해를 전제로 한 마지막 방어선이다. 인프라 관리자 단말을 최상위 자산으로 보고 단기 유효 자격 증명으로 프로덕션 접근을 제한하는 것이 초기 침투 단계의 파급을 줄이는 핵심이다.
오늘의 추천
확장침대 평상 헤드없는 베드 조립 배드 깔판 평판형 침대연장 틈새 116,300.0원
이 포스팅은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다.