요즘 생성형 AI가 정말 대세죠? 그림도 그리고, 글도 쓰고, 심지어 코드까지 짜준다고 하니 놀랍기도 하고, 한편으로는 걱정도 됩니다. 혹시 여러분도 'AI가 모든 걸 다 해줄 텐데, 앞으로 개발자는 필요 없어지는 건 아닐까?'라는 생각을 해보신 적 있나요?
하지만 이 글을 통해 말씀드리고 싶은 건, AI가 인간을 대체하는 것이 아니라, 우리와 함께 더 나은 결과를 만들어낼 수 있다는 것입니다.
AI, 코딩의 판도를 바꾸다!
AI가 코딩을 도와주면 정말 좋겠죠? 실제로 많은 개발자들이 AI를 활용하여 더 효율적으로 작업하고 있습니다. 하지만 AI도 완벽하지 않아요. 인간과는 다른 방식으로 실수를 저지르기도 하고, 예상치 못한 결과를 만들어내기도 합니다. 마치 다른 행성에서 온 외계인처럼 말이죠!
AI와 인간, 함께 성장하는 미래
그렇다면 우리는 어떻게 AI와 함께 일해야 할까요? 단순히 AI가 만들어낸 코드를 검토하는 것만으로는 부족합니다. AI가 어떤 방식으로 생각하고, 어떤 실수를 저지르는지 이해해야 합니다. 마치 새로운 외국어를 배우는 것처럼 말이죠.
AI, 자율주행차와 비슷해요!
자율주행차를 생각해 볼까요? 자율주행차는 인간보다 더 안전하게 운전할 수 있지만, 완벽하지는 않습니다. 때로는 예상치 못한 상황에서 실수를 하기도 합니다. 하지만 그렇다고 해서 자율주행차가 위험하다는 건 아니죠. 마찬가지로 AI도 완벽하지 않지만, 우리가 잘 활용하면 더 나은 결과를 얻을 수 있습니다.
AI와 함께 성장하는 개발자 되기
AI와 함께 일하는 개발자는 단순히 코드를 작성하는 사람이 아니라, AI를 이해하고 관리하는 전문가가 되어야 합니다. AI가 어떤 방식으로 작동하는지, 어떤 문제를 일으킬 수 있는지 파악하고, 이를 해결하기 위한 방법을 찾아야 합니다.
본글은 ciokorea의 칼럼/기고의 토픽을 참조해서 작성되었습니다.
* 출처 : https://www.ciokorea.com/column/350417
숙련된 인간 프로그래머는 인간 프로그래머가 저지르는 실수와 지름길의 종류를 직관적으로 알고 있다. 하지만 소프트웨어가 소프트웨어를 만들 때 발생하는 실수의 종류를 찾아내는 훈련은 별도로 필요하다.
이러한 논의는 이르면 2026년부터 대부분의 개발자가 더 이상 코딩을 하지 않을 것으로 예상한다는 AWS CEO 매트 가먼의 발언으로 더욱 가속화되었다.
개발 도구 분야의 많은 업체는 AI 코딩 앱을 관리하기 위해 AI 앱을 사용하면 이 문제를 해결할 수 있다고 주장했다. 2번째 열차 사고의 신호탄이나 마찬가지다. 금융 대기업인 모건 스탠리조차도 AI를 사용해 AI를 관리하는 방법을 고민하고 있다.
현실적으로 안전하고 원격으로 실행 가능한 유일한 접근 방식은 생성형 AI 코딩 오류의 특성을 이해하도록 프로그래밍 관리자를 교육하는 것이다. 사실 AI 코딩 오류의 특성이 매우 다르다는 점을 고려할 때, 인간의 코딩 실수를 발견하는 데 익숙하지 않은 새로운 사람을 AI 코딩 관리자로 교육하는 것이 더 나을 수도 있다.
문제의 일부는 인간의 본성이다. 사람들은 차이를 확대하고 잘못 해석하는 경향이 있다. 관리자는 자신이 절대 하지 않을 실수를 사람이나 AI가 저지르는 것을 보면 그 실수가 코딩 문제에서 관리자보다 열등하다고 생각하는 경향이 있다.
하지만 자율 주행 차량에 비추어 가정해 보자. 통계적으로 자율주행차는 사람이 운전하는 자동차보다 훨씬 더 안전하다. 자동화된 시스템은 피로를 느끼지도 않고, 취하지도 않으며, 고의적으로 난폭해지지도 않는다.
하지만 자율주행차는 완벽하지 않다. 그리고 교통 체증으로 정차한 트럭을 전속력으로 들이받는 등의 실수를 저지르면 인간은 “나라면 저런 멍청한 짓은 절대 하지 않았을 텐데...인공지능을 믿을 수 없어”라고 반문하게 된다. (웨이모 주차 차량 참사는 꼭 봐야 할 동영상이다.)
하지만 자율주행차가 이상한 실수를 한다고 해서 인간 운전자보다 안전하지 않다는 의미는 아니다. 그러나 인간의 본성은 이러한 차이를 조정할 수 없다.
코딩 관리도 마찬가지다. 생성형 AI 코딩 모델은 매우 효율적일 수 있지만, 자칫 잘못하면 엉뚱한 방향으로 흘러갈 수 있다.
AI는 미친 외계인 프로그래머
SaaS 기업 쿼리팰(QueryPal) CEO인 데브 내그는 생성형 AI 코딩 작업을 해오면서 많은 기업 IT 경영진이 이 새로운 기술이 얼마나 다른지에 대해 준비가 되어 있지 않다고 느꼈다.내그는 “마치 다른 행성에서 온 외계인처럼 이상한 실수를 많이 했다. 인간 개발자가 하지 않는 방식으로 코드가 잘못 작동한다. 마치 우리처럼 생각하지 않는 외계 지능처럼 이상한 방향으로 나아간다. AI는 병적으로 시스템을 조작할 방법을 찾아낼 것”이라고 말했다.
올해 ‘AI 보조 프로그래밍’을 포함해 여러 권의 AI 프로그래밍 책을 펴낸 톰 타울리에게 물어보자.
타울리는 “예를 들어 LLM에 코드 작성을 요청할 수 있으며, 때로는 원하는 작업을 수행하기 위해 프레임워크나 가상의 라이브러리 또는 모듈을 구성할 수도 있다”라고 말했다. (타울리는 LLM이 실제로는 새로운 프레임워크를 만드는 것이 아니라 그렇게 하는 척하는 것이라고 설명했다.)
타울리는 “(인간 프로그래머가) 미치지 않는 한, 가상의 라이브러리나 모듈을 만들어서 허공에서 만들어내지는 않을 것”이라고 지적했다.
이런 일이 발생하면 누구든 찾아보면 쉽게 발견할 수 있다. 타울리는 “직접 설치하려고 하면 아무것도 없다는 것을 알 수 있다. 이 경우 IDE와 컴파일러에서 오류가 발생한다"라고 설명했다.
실행 파일의 창의적인 제어를 포함해 애플리케이션 전체 코딩을 주기적으로 환각을 일으키는 시스템에 넘긴다는 생각은 끔찍한 접근 방식인 것 같다.
생성형 AI 코딩의 효율성을 활용하는 훨씬 더 좋은 방법은 프로그래머가 더 많은 작업을 수행할 수 있도록 돕는 도구로 사용하는 것이다. AWS의 가먼이 제안한 것처럼 인간을 배제하는 것은 자살 행위나 다름없다.
만약 생성형 AI 코딩 도구가 마음대로 돌아다니면서 백도어를 만들어 나중에 사람을 귀찮게 하지 않고도 수정할 수 있도록 한다면 공격자들도 사용할 수 있는 백도어를 만들면 어떨까?
기업은 앱, 특히 자체 개발한 앱의 기능을 테스트해 앱이 제대로 작동하는지 확인하는 데 매우 효과적인 경향이 있다. 앱 테스트가 실패하기 쉬운 부분은 앱이 수행해서는 안 되는 작업을 수행할 수 있는지 확인하는 경우이다. 이것이 바로 모의 침투 테스트 사고방식이다.
하지만 생성형 AI 코딩 현실에서는 이러한 펜 테스트 방식이 기본이 되어야 한다. 또한 생성형 AI의 실수라는 엉뚱한 세계에 대해 잘 교육받은 감독자가 이를 관리해야 한다.
기업 IT는 확실히 더 효율적인 코딩 미래를 기대하고 있다. 프로그래머는 앱이 무엇을 해야 하는지, 왜 해야 하는지에 더 집중하고 모든 줄을 힘들게 코딩하는 데 시간을 덜 할애하여 더 전략적인 역할을 맡을 것이다.
하지만 그러한 효율성과 전략적 이득은 막대한 대가를 치러야 한다. AI가 생성한 코드가 올바른 방향으로 나아가도록 하기 위해 더 뛰어나고 다르게 훈련된 인력을 고용해야 하기 때문이다.
editor@itworld.co.kr
원문보기:
https://www.ciokorea.com/column/350312#csidx13100694f6c62ef91abb92490e1a904
AI는 우리의 삶을 더 편리하게 만들어 줄 훌륭한 도구입니다. 하지만 AI는 인간을 대체하는 것이 아니라, 인간과 함께 성장하는 파트너입니다. 우리는 AI를 잘 이해하고 활용하여 더 나은 미래를 만들어 나가야 합니다.
- 이미지: 한쪽에는 사람이 코드를 작성하고, 다른 한쪽에는 AI가 코드를 생성하는 모습을 함께 배치하여 인간과 AI의 협업을 시각적으로 표현합니다.
- 색상: 파란색과 녹색 계열의 색상을 사용하여 미래지향적이고 긍정적인 이미지를 연출합니다.
- 문구: "AI와 함께하는 스마트한 코딩 시대", "인간의 창의성 + AI의 효율성 = 완벽한 조합" 등
[추가 아이디어]
- 인포그래픽: AI 코딩의 장단점, 인간과 AI의 역할 분담 등을 간단한 그래프나 그림으로 표현합니다.
- 데이터 시각화: AI가 생성한 코드의 오류 패턴을 시각화하여 독자들의 이해를 돕습니다.
- QR 코드: 포스터를 통해 관련 기사나 웹사이트로 연결하여 더 많은 정보를 제공합니다.
이 포스터는 다음과 같은 목적을 가지고 있습니다.
- AI에 대한 막연한 두려움 해소: AI가 인간의 일자리를 빼앗는 것이 아니라, 오히려 더 나은 협업을 통해 생산성을 높일 수 있다는 것을 보여줍니다.
- AI와 인간의 공존: AI와 인간이 함께 성장하는 미래를 제시합니다.
- 개발자들의 긍정적인 마음가짐 유도: AI를 활용하여 더 나은 개발자가 될 수 있다는 동기를 부여합니다.
이 포스터를 통해 독자들이 AI에 대한 긍정적인 인식을 가지고, AI와 함께 성장하는 미래를 만들어나가는 데 동참하도록 유도하고 싶습니다.
댓글 없음:
댓글 쓰기