2023. 10 (2)

[이슈칼럼] AI 보안 표준화 동향, AI 위협 및 취약점 분석 가이드라인 필요성 제기

• AI 위협요소와 취약점 분류
  • 영상 시험 데이터에 대한 기만 공격
  • 영상 학습 데이터를 추출하는 공격
  • 음성 시험 데이터에 대한 공격
  • 음향 신호 행위를 추출하는 공격
  • 기타 부채널 공격
• 임베디드 보안시스템에 대한 각종 공격기술 및 방어기술이 국가간 사업스파이 기술로 이슈화
• 하드웨어 트로이 공격을 검출하는 기술에 대한 연구 활성화
  • 집적 회로의 회로를 악의적으로 수정한 것
  • 시스템 보안 펜스를 우회하거나 무력화하려는 시도

[이슈칼럼] AI 보안 표준화 동향, AI 위협 및 취약점 분석 가이드라인 필요성 제기

 

챗GPT 단돈 270원에 타락…폭탄제조법 알려주는 ‘범죄스승’ 됐다

• Chat GPT를 미세조정해 손쉽게 가드레일을 탈옥할 수 있다는 연구 결과 발표
• Fine-tuning Aligned Language Models Compromises Safety, Even When Users Do Not Intend To
• LLM의 유해 동작을 제한하는 세이프 가 인프라 파인튜닝
• 퓨샷 러닝을 역으로 악용한 결과
  • 적은 데이터만을 가지고 좋은 성능을 뽑아내기 위한 방법론을 다루는 연구 분야
  • 처음 마주하는 데이터에 대한 일반화 성능 확보

챗GPT 단돈 270원에 타락…폭탄제조법 알려주는 ‘범죄스승’ 됐다 - 매일경제

 

 

MS, 오래된 인증 프로토콜인 NTLM 서서히 없앤다

• NTLM 프로토콜 약화, Kerberos 인증 프로토콜 강화
• Kerberos
  • 보안이 보장되지 않은 네트워크 환경에서 요청을 보내는 유저와 요청을 받는 서버가 서로 신뢰성을 확보하기 위해 사용
  • 티켓 서비스나 키 배포 센터를 통한 양방향 핸드셰이크 기반
  • 암호화 기술 근간으로 강력하면서 간단한 절차를 가짐

MS, 오래된 인증 프로토콜인 NTLM 서서히 없앤다

 

 

콜로니얼 파이프라인, 두 번째 랜섬웨어 공격에 당했나

• 콜로니얼 파이프라인: 미국 최대 석유 수송 파이프라인을 운영하는 송유관 업체
• 랜섬이디뷔씨 랜섬웨어 그룹이 콜로니얼 파이프라인의 랜섬웨어 공격 성공을 주장
• 2021 이미 랜섬웨어 공격을 당해 미국 광범위한 지역에 에너지 대란 발생
• 콜로니얼 파이프라인은 이러한 주장 부정

콜로니얼 파이프라인, 두 번째 랜섬웨어 공격에 당했나

 

[보안뉴스] ‘브라우저 업데이트’했더니 악성코드 설치... 가짜 업데이트 위협 늘어

• ‘TA569’이라는 공격 그룹이 5년 이상 가짜 브라우저 업데이트를 이용해서 ‘속골리시(SocGholish) 멀웨어’를 배포
• 화면 구성은 동일한 사회공학적 수법에 기반

 

‘브라우저 업데이트’했더니 악성코드 설치... 가짜 업데이트 위협 늘어

 

전 세계 ICS 시스템의 1/3에서 멀웨어 탐지됐다

• 전 세계 산업 제어 시스템의 35%가 멀웨어의 공격을 받은 것으로 확인
• 한국은 ICS 시스템의 31.54%에서 멀웨어가 감지
• 가장 멀웨어가 많이 감지된 곳은 바로 중국 40.55%
• 공격의 종류: 악성 스크립트, 차단된 인터넷 연결 시도, 스파이웨어, 감염된 문서, 랜섬웨어
• 최근 급증한 위협은 멀웨어의 인터넷 연결 시도
  • 이미 배포된 스크립트와 트로이 목마, 백도어, 키로거 등이 공격자의 C&C 서버로 접속을 시도해 내부 시스템의 정보 전송과 공격자의 명령 수신 등이 목적

 

전 세계 ICS 시스템의 1/3에서 멀웨어 탐지됐다

 

정부 “세계 최초 보이스피싱 음성분석 모델, 19일부터 전국 경찰 사용”

• 전화사기 수사지원시스템(이하 수사지원시스템)’에 보이스피싱 음성분석 모델을 탑재
• 국과수가 해외에서 도입해 사용해온 기존 음성분석 모델보다 77%가량 성능이 향상된 모델

정부 “세계 최초 보이스피싱 음성분석 모델, 19일부터 전국 경찰 사용”

 

사건 대응 모의 훈련을 실시할 때 가장 많이 저지르는 실수 6

• 강의 형태의 진행으로 훈련 효율 감소
• 훈련 참가자의 유형을 고려하지 않는 경우
• 훈련 내용이 매번 비슷한 경우
• 훈련조로 훈련 코스를 구성할 경우
• 훈련장과 현실이 너무 동떨어져 있을 경우
• 훈련을 통해 너무 많은 것을 이루려 할 경우

사건 대응 모의 훈련을 실시할 때 가장 많이 저지르는 실수 6

 

관리자 계정 4만 개, admin이라는 비밀번호로 보호되고 있어

• 관리자 계정 4만 개 이상이 매우 기본적인 비밀번호로만 보호되고 있음
• IT 관리자들이 조직의 중요한 자산을 거의 보호하지 않고 있다는 것
• 추측이 쉬운 비밀번호는 공격자를 돕는 장치이지 데이터를 보호하는 장치 X

관리자 계정 4만 개, admin이라는 비밀번호로 보호되고 있어

 

오픈소스 클라우드 소프트웨어 카사OS에서 초고위험도 취약점 패치돼

• 카사OS: 개인 클라우드 오픈 소프트웨어
• 카사OS(CasaOS)에서 초고위험도 취약점들이 발견
• 성공적으로 익스플로잇 한 경우 공격자는 임의의 코드를 실행할 수 있게 되며 시스템을 장악하는 것도 가능

오픈소스 클라우드 소프트웨어 카사OS에서 초고위험도 취약점 패치돼

 

아무도 몰래 패스키 도입한 아마존, 비밀번호 철폐를 위한 강력한 메시지

• 전자상거래 분야 1위 아마존, 예고 없이 패스키 기능 도입
• 현재, 아마존 모바일 앱들에는 아직 패스키가 지원되지 않고 있음
  • 패스키를 국가별로 혹은 최고 수준 도메인별로 따로 설정을 해야 함
• 구글도 패스키를 디폴트 로그인 방식으로 채택할 것이라 발표
• 패스워드리스가 실현될 가능성 증가 → 보안 측면에서 긍정적인 흐름

아무도 몰래 패스키 도입한 아마존, 비밀번호 철폐를 위한 강력한 메시지

 

북한의 해킹 조직들, 팀시티 서버의 초고위험도 취약점 해킹

• TeamCity
  • JetBrains가 개발한 지속적 통합 서버로 온프레미스 설치 또는 클라우드 서비스로 활용
  • 빌드가 실행되지 않을 때에도 CI 서버를 정상적이고 안정적인 상태로 유지할 수 있도록 함
• 북한의 해킹 조직 둘, 팀시티 소프트웨어 개발 구축 플랫폼 익스플로잇
• 소프트웨어 개발 플랫폼을 노린다는 건 공급망 공격을 실시한다는 뜻
• 이번 취약점은 매우 난이도가 낮기 때문에 최대한 빨리 패치 적용하는 게 중요

 

북한의 해킹 조직들, 팀시티 서버의 초고위험도 취약점 해킹

 

악명 높은 라그나락커, 국제 공조로 공격 인프라 잃어

• 국제 공조 작전으로 악명 높은 라그나로커 랜섬웨어 조직의 공격 인프라 무력화
• 라그나로커: 10개 사회 기반 시설 분야 내 52개 조직을 침해한 조직

악명 높은 라그나락커, 국제 공조로 공격 인프라 잃어