인공지능을 서둘러 도입하는 곳들이 있고 사람들이 있다. 이에 여러 조직들이 위협을 느끼고 있다. 하지만 섣부르게 손을 댔다가는 오히려 최악의 결과를 맞이할 수 있다. 필요한 건 인공지능에 대한 전략적인 접근이다.
생성형 인공지능이라는 기술의 발전으로 경영진들의 기대감도 높아지고 있지만 반대로 걱정도 늘어나고 있다. 사용을 전면 금지시킨 후 손 놓고 있을 수 없고, 덥썩 받아들이기만 해서도 안 된다. 이럴 때 필요한 건 전략이다. 생성형 인공지능의 장점만 가져오고 단점은 제거할 수 있는 전략 말이다. 하지만 대부분 기업들이 아예 관심을 두지 않거나, 넙죽넙죽 도입하고만 있다. 조심스럽게, 전략적으로 접근하는 노력은 찾기 힘든 게 사실이다.
[사진1] gettyimagesbank
여러 조사에 의하면 기업들의 절반 이상이 인공지능 기술을 전략 없이 도입하기에 바쁘다고 한다. 하지만 동시에 생성형 인공지능을 가장 크게 대두되는 위협이라고 보는 기업들도 상당히 많은 것으로 가트너(Gartner)는 지난 8월 조사 결과를 발표했었다. 기대와 염려가 공존하는 것이 바로 이 생성형 인공지능이라는 뜨거운 감자라고 할 수 있다.
IT 업체 델리니아(Delinea)의 CISO인 스탠 블랙(Stan Black)의 경우, “신기술 도입에 서두르는 기업들 중 좋은 결과를 내는 곳은 드물다”고 말한다. “오히려 큰 위기에 빠지지 않으면 다행일 때가 많습니다. 챗GPT가 유행할 때도 우리는 이런 기업들을 적잖게 봤습니다. 회사 기밀과 같은 소스코드를 챗GPT에 아무 고민 없이 업로드 하는 소프트웨어 개발자들이 있었거든요. 그 외 다른 민감 정보도 아무렇지 않게 챗GPT 프롬프트 창에 올리는 직원들이 있었고요.”
그러면서 블랙은 “인공지능 기술을 통해 빠르고 효과적으로 일을 처리하고 싶다는 열망이 지나치게 강한 것이 그 이유”라고 말한다. “회사를 곤란하게 만들겠다거나 하는 악의가 작용하는 사례는 그리 많지 않을 겁니다. 자기 업무를 빠르게 마치고 싶어서 인공지능을 접하게 되는 것이죠. 그럴 때 제어 장치가 없는 게 패착인 것입니다. 적당한 관리 전략만 있었어도 정말로 임직원들이 빠르게, 그러나 안전하게, 자기 일을 완수할 수 있도록 도울 수 있었을 겁니다.”
기술은 새 것, 위협은 옛 것
블랙은 “인공지능이 신기술인 것은 맞지만, 그 인공지능을 보호할 수단들까지도 새 것인 건 아님”을 강조한다. 즉, 안전한 인공지능 활용의 전략을 마련한다는 게 대단히 고차원적이고 난이도 높은 일만은 아니라는 뜻. “데이터를 책임감 있게 사용하고, 엄격하게 보안 규정들을 지키고, 보안 인식 제고 교육 및 훈련을 실시하고, 주기적으로 감사하고, 실시간으로 모니터링하고, 각종 윤리 규정을 어기지 않는 등의 기존 보안 수칙들이 인공지능 보안에도 다 적용됩니다.”
그러면서 그는 주요 크리덴셜의 유출 사례를 예로 들어 설명한다. “챗GPT와 같은 인공지능 플랫폼에 회사 업무 계정의 크리덴셜을 입력하는 사람들이 있습니다. 깜빡 잊었을 수도 있고, 그러면 안 된다는 걸 몰랐을 수도 있습니다. 회사도 언제 어떤 직원이 이런 실수를 할까 노심초사 하지요. 그럴 때는 다중인증 시스템을 도입하면 됩니다. 혹여 누군가 크리덴셜을 노출시켜도 그것이 쉽게 악용되지 못하도록 하는 것이죠. 곰곰이 생각해보면 인공지능으로 인한 위협들도 관리할 수 있음을 알게 될 겁니다.”
IT 업체 그래멀리(Grammarly)의 CISO인 수하 캔(Suha Can)의 경우 “애초에 생성형 인공지능을 완전히 업무용으로 쓰기에는 정확도나 결과물의 품질이 걸림돌이 될 수 있다”고 지적한다. “물론 이 점은 인공지능 기술이 발달함에 따라 향상될 수 있습니다. 게다가 이런 단점 때문에 인공지능을 완전히 배제하기에도 아깝습니다. 대단히 설득력 있는 콘텐츠를 인간처럼 만들어낸다는 그 독특함은 어떤 기술로도 흉내 낼 수 없거든요. 그러니 누군가는 이를 반드시 이용하려 들 테고, 누군가는 그 와중에 실수를 하겠지요. 좀 더 안전한 접근법이 필요합니다.”
그러면서 캔은 “안전한 접근법에는 기본적이 원칙들이 존재한다”고 말을 잇는다. “기업의 준비도를 평가한다거나, 고유한 리스크 요인들을 집계한다거나, 보안이나 시스템 유지 관리의 목적을 명확히 한다거나 하는 것이죠. 이런 기본 사항들 위에서 좀 더 구체적인 접근법이 나올 수 있고, 그래야 합니다. 동시에 생성형 인공지능의 잠재력과 한계에 대한 이해도를 높이는 것도 중요합니다.”
Copyrights 1998[사이버기술교실_gabsun.com(구josuntech.com)] / 모바일 접속 주소 : [http://m.gabsun.com/]
[무단 전재-재배포 금지] TEL : 0505-336-1813 / FAX : 0505-339-1813 팩스[수신]
문의메일 : master@gabsun.com
본 웹사이트에 게시된 이메일 및 주소의 무단 수집을 거부합니다_위반할 시 정보통신망법에 의해 형사 처벌됩니다.
기술용어사전
https://www.boannews.com/media/view.asp?idx=122946
883302106_8564.jpg
