Java4Shell(CVE-2026-114938), 자바 메모리 손상 취약점과 클라우드 보안 대응 방법

안녕하세요, 테이텀 시큐리티입니다.

2026년 10월 PHP2Shell 취약점(RCE, Remote Code Execution)이 공개된 데 이어, 이번에는 Java 실행환경에서도 치명적인 메모리 손상 취약점이 발견되었습니다.

2026년 11월 17일, Oracle은 Java 관련 보안 업데이트를 공개했습니다. 이 중 Java4Shell(CVE-2026-114938)은 OpenJDK의 Base64 디코딩 과정에서 발생하는 메모리 손상 취약점으로, 특정 조건에서 인증 없이 원격 코드 실행이 가능하다는 점에서 주목받고 있습니다.

Java는 기업의 웹 애플리케이션, 인증 시스템, API 서버, 금융 및 공공기관의 업무 시스템 등 다양한 환경에서 사용되고 있습니다. 특히 AWS, Azure, GCP 등 클라우드 환경에서는 가상 머신(VM)과 컨테이너 내부에 여러 Java 실행환경이 존재할 수 있어 빠른 대응이 필요합니다.

이번 테이텀 시큐리티 인사이트에서는 Java4Shell의 기술적 원리와 영향 조건을 분석하고, 기업이 수행해야 할 보안 점검 및 클라우드 환경에서의 대응 방안을 살펴보겠습니다.

1. Java4Shell 핵심 요약

Java4Shell은 Java 애플리케이션 자체의 개발 오류가 아니라, Java 실행환경인 OpenJDK의 Base64 디코딩 처리 과정에서 발생하는 메모리 손상 취약점입니다.

Base64는 바이너리 데이터를 문자 형태로 표현하는 방식으로, 인증정보, 파일 업로드, 시스템 간 데이터 전달 등 다양한 기능에 사용됩니다.

이번 취약점은 특정 CPU 환경에서 Base64 데이터를 빠르게 처리하기 위한 최적화 코드에 존재합니다. 공격자가 비정상적인 Base64 데이터를 전달하면 정상적으로 할당된 메모리 범위를 벗어나 데이터를 기록하는 Out-of-bounds Write가 발생할 수 있습니다.

취약점 발견 연구진인 Calif는 실제 Java 애플리케이션을 대상으로 정보 노출 및 원격 코드 실행 가능성을 시연했습니다.

1-1. 취약점 주요 정보

구분

내용

CVE

CVE-2026-114938

별칭

Java4Shell

취약점 유형

메모리 손상, Out-of-bounds Write(범위 밖 쓰기)

발생 위치

OpenJDK Base64 디코더의 CPU 가속 처리 코드

위험도

CVSS v4.0 9.2(Calif 평가) / CVSS v3.1 8.1(Oracle 평가)

주요 영향 환경

취약한 OpenJDK 17.0.6 이후 계열 및 일부 Oracle Java 배포판

하드웨어 조건

AVX-512 VBMI를 지원하는 x86-64 CPU

공격 영향

JVM 비정상 종료, 메모리 정보 노출, 원격 코드 실행 가능

패치 공개

2026년 11월 17일(미국 현지시간)

국내 권고

2026년 11월 18일 KISA 보안 업데이트 권고

주의할 점은 Java를 사용한다는 사실만으로 모든 시스템이 취약한 것은 아니라는 점입니다.
실제 영향 여부는 Java 배포판과 빌드 버전, CPU 기능, JVM 실행 설정, 외부 입력의 처리 경로에 따라 달라집니다. 

1-2. 영향받는 버전과 보안 업데이트

KISA와 Oracle이 공개한 CVE-2026-114938의 주요 영향 버전 및 수정 버전은 다음과 같습니다.

제품

영향받는 빌드

수정 버전

Oracle Java SE 8 Performance Pack

8u511b33-perf

8u513

Oracle Java SE 17

17.0.21.0.3

17.0.21.1

Oracle Java SE 21

21.0.13.0.3

21.0.13.1

Oracle Java SE 25

25.0.5.0.3

25.0.5.1

Oracle Java SE 27

27.0.1.0.3

27.0.1.1

Oracle GraalVM for JDK 17

17.0.21.0.3

17.0.21.1

Oracle GraalVM for JDK 21

21.0.13.0.3

21.0.13.1

Oracle GraalVM Enterprise Edition

21.3.20.0.3

21.3.20.1

위 표는 Oracle 제품의 공식 공지에 명시된 빌드입니다. 해당 계열의 이전 빌드와 다른 OpenJDK 배포판은 각각의 보안 권고문을 통해 영향 여부를 확인해야 합니다.

일반적인 OpenJDK 8·11은 이번 취약 코드 경로의 영향 대상이 아닌 것으로 Red Hat이 안내하고 있습니다. 다만 Oracle Java 8 Performance Pack의 특정 빌드는 예외입니다.

또한 Eclipse Temurin, Amazon Corretto, Azul Zulu, Microsoft Build of OpenJDK, Red Hat OpenJDK 등은 각 공급사의 별도 수정 빌드를 확인해야 합니다. Oracle의 패치가 공개되었다고 모든 배포판의 업데이트가 완료된 것은 아닙니다.

2. Java4Shell 기술 분석
2-1. Base64 디코딩 과정에서 발생한 메모리 손상

Java는 일반적으로 메모리 접근을 관리하고 잘못된 접근을 제한하는 특성을 가지고 있습니다. 그러나 Java 실행환경 내부에는 성능 개선을 위해 작성된 저수준 코드와 CPU 최적화 코드가 포함됩니다.

이번 취약점은 OpenJDK가 Base64 데이터를 빠르게 디코딩하기 위해 사용하는 AVX-512 기반 최적화 처리에서 발생합니다.

정상적인 Base64 디코딩 과정에서는 입력 데이터를 검사하고, 결과 데이터를 저장할 메모리 공간을 확보한 뒤, 해당 범위 안에서 변환 결과를 기록해야 합니다.

하지만 취약한 코드에서는 비정상적인 입력값을 처리하는 과정에서 메모리에 기록할 데이터 길이를 잘못 계산할 수 있습니다.

이로 인해 할당된 메모리 범위를 초과한 쓰기 작업이 발생하고, 인접한 메모리 객체의 데이터까지 변경될 수 있습니다.

2-2. 주요 공격 원리

공개된 기술 분석에 따르면 공격은 다음과 같은 방식으로 진행될 수 있습니다.

① 비정상적인 Base64 입력 전달

공격자가 외부에서 입력값을 제어할 수 있는 기능을 통해 비정상적인 Base64 데이터를 전달합니다. 예를 들어 인증 헤더나 API 입력값 등에서 받은 데이터가 취약한 Java 디코더에 전달될 수 있습니다.

② 메모리 범위 초과 기록 발생

특정 CPU 가속 코드가 입력값의 마지막 부분을 잘못 처리하면서, 할당된 버퍼의 경계를 벗어나 데이터를 기록할 수 있습니다. 이때 애플리케이션이 잘못된 입력이라고 판단해 오류를 반환하더라도, 오류가 반환되기 전에 메모리 손상이 발생했을 수 있습니다.

③ 메모리 정보 노출 및 코드 실행 가능성

공격자가 메모리 배치와 처리 흐름을 추가로 조작할 수 있다면 손상된 메모리를 이용해 다른 데이터에 접근하거나 프로그램의 실행 흐름에 영향을 줄 수 있습니다. 취약점 발견 연구진은 이러한 과정을 활용해 일부 Java 애플리케이션에서 정보 노출과 원격 코드 실행을 시연했습니다. 다만 공격이 항상 성공하는 것은 아닙니다. 실제 코드 실행까지 연결하려면 대상 애플리케이션의 데이터 처리 방식과 메모리 구조에 맞는 추가적인 공격 조건이 필요합니다.

2-3. 취약점 악용 조건

Java4Shell은 모든 환경에서 동일하게 동작하지 않습니다. 일반적인 OpenJDK 17 이상 계열에서는 다음 조건을 중심으로 영향 여부를 판단해야 합니다.

확인 항목

주요 조건

Java 실행환경

취약한 OpenJDK 기반 빌드 사용

CPU 아키텍처

x86-64

CPU 기능

AVX-512 VBMI 지원

JVM 실행 설정

취약한 Base64 가속 코드 사용 가능

입력 처리

공격자가 제어하는 데이터가 Base64 디코더에 전달

ARM64 환경이나 AVX-512 VBMI를 지원하지 않는 x86-64 CPU는 현재 알려진 해당 취약 코드 경로의 영향 대상이 아닙니다. 반면 Intel Xeon Ice Lake 이후 일부 서버 CPU, AMD Zen 4 이후 일부 CPU 등에서는 관련 기능이 지원될 수 있으므로 실제 시스템의 CPU 기능을 확인해야 합니다.

2-4. 실제 공격 시연과 확인된 영향

Calif 연구진은 Keycloak, Jira, Confluence 등 여러 Java 기반 제품의 테스트 환경에서 인증 전 원격 코드 실행 가능성을 시연했다고 발표했습니다.

이는 나열된 제품 모두에 별도의 동일한 취약점이 존재한다는 의미가 아니라, 취약한 Java 실행환경과 특정 입력 처리 기능이 결합되었을 때 영향을 받을 수 있다는 의미입니다.

2026년 11월 18일 기준, 공개된 연구진의 공격 시연과 실제 운영 환경에서의 침해사고는 구분해야 합니다. 이번 취약점을 악용한 대규모 침해사고나 국내 피해 규모는 확인된 공식 자료만으로 단정하기 어렵습니다.

3. 기업 보안에 미치는 영향

이번 취약점은 웹 애플리케이션뿐만 아니라 Java 실행환경을 사용하는 업무 시스템 전반에 영향을 미칠 수 있습니다. 특히 인증 처리 과정에서 외부 데이터를 Base64 디코딩하는 서비스는 로그인 이전에 취약한 코드가 실행될 가능성이 있어 우선적인 점검이 필요합니다.

3-1. 주요 보안 위험
  1. 인증 이전 원격 코드 실행

외부 입력이 취약한 코드 경로로 전달되는 경우, 공격자는 정상적인 사용자 인증 절차를 완료하지 않고도 원격 코드 실행을 시도할 수 있습니다.

  1. 중요정보 유출 및 시스템 침해

공격자가 메모리 접근을 악용하면 애플리케이션에서 처리 중인 인증정보, 토큰, 개인정보 등 민감한 정보에 접근할 가능성이 있습니다.

  1. 서비스 장애 및 추가 공격 확산

메모리 손상으로 Java 프로세스가 비정상 종료될 수 있으며, 코드 실행에 성공한 경우 해당 서버의 권한을 이용해 내부 시스템 접근이나 추가 공격을 시도할 수 있습니다. 

기업은 단순히 Java 설치 여부만 확인하기보다, 실제 취약한 실행환경과 외부에서 접근 가능한 입력 경로가 연결되어 있는지 확인해야 합니다.

3-2. 영향 받을 수 있는 환경
  • 인터넷에 공개된 Java 기반 웹 서비스 및 API 서버

  • 인증·인가를 처리하는 Java 기반 시스템

  • Java 런타임이 포함된 VM 및 컨테이너

  • 외부 데이터를 처리하는 업무 애플리케이션

  • 주요 데이터베이스나 내부 시스템과 연결된 Java 워크로드

3-3. 클라우드 환경에서 확인해야 할 세가지
  1. 다양한 클라우드 자산의 Java 실행 환경

클라우드 환경에서는 VM, 컨테이너, Kubernetes 워크로드 등 다양한 자산에서 Java가 실행되고 있습니다. 특히 애플리케이션에 포함된 Java 런타임이나 컨테이너 이미지에 설치된 Java는 일반적인 서버 점검만으로 식별하기 어려울 수 있습니다. 따라서 기업은 Java가 설치된 자산과 실행환경을 식별하고, 취약한 버전이 포함되어 있는지 확인해야 합니다.

  1. 실행환경에 따라 달라지는 취약점 영향 범위

Java4Shell은 Java 버전뿐 아니라 CPU의 AVX-512 VBMI 지원 여부와 JVM 설정 등 특정 조건에 따라 영향 여부가 달라집니다. 동일한 Java 버전을 사용하는 클라우드 자산이라도 실제 실행환경에 따라 취약점 악용 가능성에는 차이가 있을 수 있습니다. 따라서 취약 버전의 존재 여부뿐 아니라 CPU 기능과 실행 설정을 함께 확인하여 실제 영향받는 자산을 판단하는 것이 중요합니다.

  1. 침해 이후 클라우드 내부로 확대될 수 있는 보안 위험

Java 애플리케이션에서 원격 코드 실행이 발생하면 공격자는 해당 프로세스의 권한을 이용해 추가적인 활동을 시도할 수 있습니다. 특히 클라우드 워크로드에 과도한 IAM 권한이 부여되어 있거나 내부 데이터베이스, 스토리지, 다른 서비스에 대한 접근통제가 미흡한 경우 피해가 확대될 수 있습니다. 따라서 취약한 Java 서버를 식별한 이후에는 외부 노출 여부, 네트워크 접근 경로, 계정 권한을 함께 확인하는 것이 중요합니다.

4. Java4Shell 보안 점검 및 대응 가이드
4-1. Java 운영환경 점검 체크리스트

✅전체 VM, 컨테이너 및 애플리케이션의 Java 실행환경 식별
✅Java 배포판과 상세 빌드 버전 확인
✅x86-64 CPU의 AVX-512 VBMI 지원 여부 확인
✅JVM의 Base64 가속 기능 및 실행 옵션 확인
✅외부 입력이 Java Base64 디코더로 전달되는 경로 점검
✅인터넷 노출 자산과 인증 시스템 우선 점검
✅공급사별 보안 업데이트 적용 및 애플리케이션 재시작
✅Java 워크로드의 네트워크 접근 경로와 IAM 권한 검토
✅Java 프로세스 비정상 종료, 예외 및 의심스러운 실행 이벤트 검토
✅컨테이너 베이스 이미지와 CI/CD 배포 구성의 취약 버전 제거

4-2. Java 버전 및 CPU 확인

Linux 환경에서는 다음 명령어를 통해 현재 실행환경의 정보를 확인할 수 있습니다.

Java 버전 확인

java -version

4-3. CPU의 AVX-512 VBMI 지원 여부 확인

grep -o avx512vbmi /proc/cpuinfo |head -1

명령어 결과에 avx512vbmi가 표시되면 해당 기능을 지원하는 CPU 환경으로 판단할 수 있습니다.

단, CPU 기능 지원 여부만으로 취약점 영향이 확정되는 것은 아닙니다. Java 빌드 및 JVM 실행 설정도 함께 확인해야 합니다.

또한 위 명령어는 실행한 환경의 정보만 보여주므로, 실제 애플리케이션 프로세스와 컨테이너 내부의 Java 실행환경을 별도로 확인해야 합니다.

4-4. 즉시 패치가 어려운 경우

보안 패치를 즉시 적용할 수 없는 환경에서는 공급사 권고에 따라 JVM 실행 옵션을 활용해 취약한 최적화 기능을 비활성화할 수 있습니다.

  • -XX:-UseBASE64Intrinsics : Base64 하드웨어 가속 기능 비활성화

  • -XX:UseAVX=2 : x86-64 환경에서 AVX-512 명령어 사용 제한

이러한 설정은 임시 완화 조치이며, Java 실행 성능에 영향을 줄 수 있습니다. 특히 -XX:UseAVX=2는 ARM64 JVM에 적용하지 않아야 합니다. 설정 변경 후에는 프로세스를 재시작하고 실제 적용 여부 및 서비스 정상 동작을 확인해야 합니다. 최종적으로는 공급사가 제공하는 수정 버전으로 업데이트하는 것이 권고됩니다.

4-5. 대응 우선순위

구분

대응 항목

주요 조치

즉시 조치

영향 범위 식별 및 임시 완화

Java 버전·CPU 기능 확인, 외부 노출 자산 식별, 필요 시 JVM 완화 옵션 적용

단기 개선

패치 및 보안 설정 개선

공급사 수정 버전 적용, 애플리케이션 재배포·재시작, 접근 권한 및 네트워크 설정 검토

지속 관리

취약점 및 자산 관리

워크로드·컨테이너 이미지 점검, Java 인벤토리 최신화, CI/CD 및 모니터링 정책 운영

5. 결론 및 시사점

Java4Shell은 널리 사용되는 Java 실행환경 내부에서도 메모리 손상 취약점이 발생할 수 있으며, 특정 조건에서는 인증 이전 원격 코드 실행으로 이어질 수 있다는 점을 보여줍니다. 이번 취약점은 개별 웹 애플리케이션의 개발 오류가 아닌 Java 실행환경의 최적화 코드에서 발생했습니다. 따라서 애플리케이션에 별도의 취약점이 발견되지 않았더라도 이를 실행하는 Java 런타임의 보안 상태를 확인해야 합니다. 특히 클라우드 환경에서는 Java 설치 여부와 버전만으로 실제 위험을 판단하기 어렵습니다. 실행환경의 버전, CPU 기능, 외부 노출 여부, 워크로드 접근 권한을 종합적으로 확인하는 과정이 필요합니다. 기업의 취약점 대응은 보안 업데이트 적용에서 끝나서는 안 됩니다. 취약한 실행환경이 어디에 있는지 식별하고, 침해 가능성이 높은 자산을 우선적으로 개선하며, 동일한 취약 버전이 다시 배포되지 않도록 관리해야 합니다.

결국 이번 Java4Shell 이슈에서 기업이 확인해야 할 핵심은 세 가지입니다.

첫째, 취약한 Java 실행환경을 정확히 식별할 수 있는가?
둘째, 실제 공격 가능한 자산을 우선적으로 판단할 수 있는가?
셋째, 침해가 발생하더라도 다른 클라우드 자산으로 피해가 확산되지 않도록 통제하고 있는가?

CNAPP은 이러한 질문에 대응하기 위한 클라우드 자산 가시성과 취약점·권한 관리에 활용할 수 있습니다. 앞으로도 기업은 운영 중인 애플리케이션뿐만 아니라 이를 실행하는 런타임과 기반 인프라까지 포함해 지속적으로 보안 상태를 점검하고 관리해야 합니다.

참고자료

공식 보안 권고 및 벤더 자료

  1. KISA, Oracle 제품 보안 업데이트 권고 (2026.11.18)

  2. Oracle, Critical Security Patch Update Advisory – November 2026

  3. Oracle, November 2026 Risk Matrix – CVE-2026-114938

  4. Red Hat, RHSB-2026-018 – Java4Shell Security Bulletin

  5. Oracle, JDK 17.0.21.1 Release Notes

  6. OpenJDK, Security Advisory – November 17, 2026

보안 연구 및 관련 보도

  1. Calif, Java4Shell: Write once, RCE everywhere

  2. 보안뉴스, PHP 이어 Java도 뚫렸다

  3. 데일리시큐, PHP 이어 자바도 원격 해킹 위험

본 콘텐츠는 2026년 11월 18일 기준 공개된 공식 보안 권고 및 보안 연구 자료를 바탕으로 작성했습니다. 신규 취약점 특성상 추가 분석 및 공급사 업데이트에 따라 세부 정보가 달라질 수 있습니다.

More

사업자등록번호 277-81-01840 | 대표 : 양혁재

서울특별시 강남구 역삼2동 테헤란로 238 마크로젠빌딩 3층 테이텀

통신판매업신고 : 제2021-서울서초-3149호 사업자 정보 확인

© 2026 Tatum Security All rights reserved.