탈옥으로 시작되는 신시대, AI

 

 

 

2025년 1월 20일 중국기업이 딥시크(DeepSeek, 중국 생성형 AI모델)의 R1을 오픈하면서 글로벌 AI업계에 미칠 파급효과에 대한 관심이 집중되고 있는데, 이는 최초의 오픈소스 추론AI이다. 최근 몇 년 간 AI업체·엔비디아는 하드웨어(AI가속기) 사양 업그레이드에 치중하면서 AI모델의 성능을 견인해 왔고, 그 과정에서 엔비디아는 큰 돈을 벌었다. 하지만 2023년 5월 량원펑이 설립한 스타트업이 저사양 AI가속기로도 가성비 좋은 모델을 선보이면서, 그간의 대규모 하드웨어 투자가 바람직했는지에 대한 비판이 생긴 것이다.

 

2010년 전후 아이폰을 가지고 많은 시도를 했던 기억이 난다. 당시 막 시작된 앱시장에서는 비공식앱들이 많이 유통되고 있었고, 아이폰을 탈옥하는 것이 유행이었다. 15년이 지난 현 시점에서 다시 탈옥 이슈가 부각되고 있는데, 이번에는 모바일장치가 아닌 AI모델이 대상이다. 물론 현 시점에서 딥시크의 주장을 전적으로 신뢰할 수 없다는 것이 시장의 입장이며, 트럼프 당선 이후 시진핑의 정치적 노림수가 있다거나, 통화정책에 대한 사전적 조치라는 말도 있다. 과연 「중국판 황우석」일지 「AI의 콜럼버스 달걀」일지 「AI의 스푸트니크 순간」일지는 시간을 두고 지켜봐야겠지만, 주식시장의 움직임으로 봐서는 AI버블 가능성에 대한 경고는 확실히 전해진 것으로 보인다.

 

AI연산 핵심, GPU

1999년 엔비디아(NVIDIA)는 최초의 그래픽처리장치(GPU) GeForce 256를 개발했는데, 이는 게임의 3D그래픽 데이터를 효과적으로 실시간 처리하기 위한 목적이었다. 이는 게임그래픽 작업의 성능을 대폭 향상시켰다. 2002년 GeForce4 시리즈이 출시로 멀티텍스처링 기능을 지원되면서, 3D그래픽 성능은 더욱 향상되었다. 2003년 GPU를 비그래픽앱에도 적용되기 시작했는데, DirectX9(고수준 셰이딩 언어)를 사용하여 다양한 데이터병렬 알고리즘을 GPU로 포팅하게 되었다. 포팅 (Porting)은 프로그래밍을 원래 설계된 바와 다른 환경에서 동작할 수 있도록 다시 재구성하는 일련의 행동·결과물을 의미한다.

 

2004년 엔비디아는 멀티GPU로 성능을 향상시키게 되는데, 여러 GPU를 연결할 수 있는 SLI(Scalable Link Interface) 기술을 도입했다. 명령어를 순서대로 처리하는 중앙처리장치(CPU)와 달리, GPU는 한 번에 여러 계산을 수행할 수 있는 특성을 바탕으로 복잡한 연산을 수행하는 AI반도체로 널리 쓰이게 된다. 2006년 CUDA(Compute Unified Device Architecture) 프로그래밍 모델을 도입하면서 혁신적인 변화의 계기를 마련했는데, CUDA는 GPU를 범용연산(GPGPU) 장치로 활용할 수 있도록 해주며, C프로그램을 작성하여 GPU를 활용할 수 있게 되었다. 과학적 연산, 금융 모델링, 데이터 분석, AI(딥러닝)에서 GPU를 사용할 수 있게 된 것이다.

 

이전 글 <아직까지는 안정적이지 않다는, 스테이블코인>에서는 엔비디아의 CTO가 엔비디아의 그래픽칩을 암호화폐 채굴보다는 생성형AI에 사용되는 것이 훨씬 더 가치있다고 말했다는 언급을 했었다. 2016년 엔비디아는 DGX 시리즈을 통해 AI분석 가속화에 박차를 가했는데, DGX시스템은 하드웨어·소프트웨어(딥러닝)·개발도구가 완벽하게 통합된 슈퍼컴퓨터이다. OpenAI가 DGX시스템을 활용하고 있다. DGX A100은 8개의 A100 GPU를 사용하여 5페타플롭스의 AI 성능을 제공하며, MIG(Multi-Instance GPU) 기능을 통해 최대 56개의 GPU인스턴스를 생성할 수 있게 되었다.

H100 GPU [출처:엔비디아]

이후 엔비디아는 Omniverse 가상환경 플랫폼, GeForce RTX 30 시리즈(Ampere 아키텍처 기반), H100 GPU(Hopper 아키텍처 기반)를 연이어 출시하면서 AI와 고성능 컴퓨팅 분야에서 혁신을 이끌고 있다. 최근까지 GPU시장에서는 엔비디아는 여전히 압도적 1위이며, AMD·인텔이 그 뒤를 잇고 있다. 엔비디아가 GPU를 설계하면, 수탁제조(패키징)는 타사에 맡긴다. H100에 탑재된 GH100는 TSMC의 4나노미터(10억분의 1미터) 공정을 통해 만들어 진다.

 

중국의 와신상담 아니면, 허세

 

R1에 사용된 반도체는 H800으로 알려져 있는데, 이는 H100의 하위버전이다. 미국이 고성능 반도체 수출을 통제하고 있기에, 이를 우회하기 위해 만든 저사양칩이다. 무역전쟁의 틈바구니 속에서 놀랄만한 기술발전이 있을 수 있을 거라는 기대는 했지만, 중국의 와신상담이 놀랍기만 한다. 물론 거짓으로 과대포장을 했을 가능성도 배제할 수 없지만, 겉으로는 서방에게 날리는 펀치의 형상이다. 와신상담(臥薪嘗膽, 땔감 위에 누워자고 쓸개를 맛봄)은 미래의 복수·목표를 위해 현재의 고난을 참고 견디는 것을 의미하는데, 중국 춘추전국시대 오(吳)·월(越) 간의 전투에서 비롯되었다.

 

오나라 합려는 월나라 구천과의 전투에서 패배하면서 부상을 입었는데, 죽기 직전에 부차(합려 아들)에게 자신의 원수를 갚으라는 유언을 남겼다. 부차는 매일 가시가 많은 섶(땔감) 위에 누워 잠을 자면서 복수를 다짐했다고 한다. 결국 부차는 구천의 항복을 받아냈지만, 이번에는 구천이 방 안에 돼지쓸개를 걸어두고는 수시로 혓바닥으로 핥으면서 스스로를 채찍질했다. 이후 구천은 반란을 일으켜 오나라를 전복시키게 된다. 예(구천 증손자)대에 와서 월나라는 대외적으로는 초나라·제나라, 대내적으로는 멸망한 오나라 귀족의 위협을 받게 된다. 결국 얼마 가지 않아 초나라에게 멸망한다.

반응형

AI의 또 다른 보안능력, 탈옥차단

 

탈옥(jailbreaking)은 장비에 걸려 있는 디지털 권한 제한을 무시하여, 허가되지 않은 앱을 설치하거나 기기 내부를 조작할 수 있도록 해주는 기술로, 모바일장비나 보안분야에서 주로 사용되는 용어이다. 아이폰 탈옥을 가능하게 하는 체크라인(checkra1n)이 대표적인 탈옥툴이며, 최근 들어 AI챗봇 탈옥이 심각한 보안위협으로 떠오르고 있다.

 

AI챗봇 탈옥은 AI기반의 챗봇이 설정된 안전장치를 우회하여 금지된 콘텐츠를 생성하거나 악의적인 명령을 수행하는 것을 의미한다. AI모델의 가이드라인·사용정책을 우회하기 위해 유해한 프롬프트를 사용하는 것으로, AI모델에 내장된 안전장치를 무력화하는 것이다.챗GPT를 사용하다보면 특정 프롬프트에 대해서는 답변을 거부하거나, 경고문구를 덧붙이는 경우가 있다. 이러한 탈옥차단능력은 AI모델에게 요구되는 역량 중에 하나이다.

 

하지만 시스코(Cisco)의 보안테스트에서도 딥시크 R1의 취약점이 드러났다고 하는데, 50개의 랜덤 프롬프트를 사용하여 유해행동(허위정보·불법활동 등)을 평가한 것이다. 여기서 R1은 유해한 프롬프트를 제대로 차단하지 못하면서 안정성 문제가 있는 것으로 드러났다고 한다. 오픈소스로 공개된 딥시크는 시간이 지날수록 심각한 탈옥이 이뤄질 수 있다.

 

기본 중 기본, 공공기관 보안

 

2021년 4월 인터넷을 사용하는 중앙선거관리위원회(중앙선관위) 컴퓨터가 북한 해킹조직 킴수키(Kimsuky)의 악성코드에 감염되어, 메일함에 저장된 업무자료 등이 유출된 사실이 있었다고 한다. 이후 2023년 10월 국가정보원(국정원)은 중앙선관위의 투·개표 관리시스템이 인터넷을 통해 내부전산망에 침투할 수 있을 정도로 해킹에 취약하다고 지적했다.

 

2023년 7~9월 국정원은 선관위·한국인터넷진흥원과 합동보안점검을 실시했는데, 가상의 해커가 선관위 전산망을 침투하는 방식이었다. 특히 통합선거인명부시스템에 쉽게 침투할 수 있는 것으로 나타났는데, 이는 유권자 등록현황·투표여부를 관리하는 시스템이다. 그 외 해킹을 통한 조작이 가능했던 영역은 다음과 같은데, 이는 가히 이전 글 <한국 현대사의 트라우마, 부정선거>에서 언급한 1960년 자유당의 선거조작의 디지털화라고 말할 수 있을 정도이다.

 

사전투자자 여부 변경

유령유권자를 정상유권자로 표시

사전투표용지 날인도장파일 탈취

사전투표용지 QR코드 무단인쇄

개표결과 변경 : 득표수 임의변경

실제와 다른 개표분류 설정 : 투표지분류기 해킹

 

아이폰이 등장한지 15여년이 지난 현재, 새로운 산업지평이 열리고 있다. AI의 기술 업그레이드가 하루가 멀다고 일어나고 있으며, AI가 미칠 영향에 대해서는 가늠이 쉽지 않은 상황이다. 스마트폰이 바뀐 지난 15년의 현실을 생각하면, 향후 10년 동안 일어날 사회변화에 대해 좀 더 관심을 가지고 대응해야 할 것 같다.