프롬프트 엔지니어링은 곧 사라진다

'ChatGPT 모먼트'와 함께 떠오른 것은 '프롬프트 엔지니어'라는 새로운 직업이었습니다. AI가 할 수 있는 영역이 확장되면서, AI 자체의 기술보다 이를 잘 다루는 인간의 '지시'가 더 중요하다는 관점이었죠. 그러면서 ChatGPT에게는 반말을 해야한다, "넌 정말 똑똑한 로봇이야"같은 칭찬을 해줘야 한다 등의 치트키가 쏟아져 나왔습니다. 그런데 이 직업, 정말로 유효한 걸까요?

AGI의 순간이 도래했다?

오픈AI가 최근 발표한 GPT-4o 모델을 본 시장의 반응은 대체로 비슷했습니다. "인간적이다.", "AGI(인공일반지능)의 순간이 도래했다" 같은 반응이 주를 이뤘죠. 아직 GPT-4o가 그 수준에 명확하게 도달했다고 말 할 수는 없겠지만, 적어도 아주 가깝게 왔다는 느낌을 주기에는 충분했습니다.

AGI는 인간의 개입 없이도 스스로 문제를 해결하는 AI를 의미합니다. 인간이 가진 일반화된 지능을 컴퓨터에 주입하는 기술이죠. SF 영화에서 자주 묘사하는 고도화된 인공지능이나 로봇에 탑재된 지능을 생각하면 쉽습니다. 영화 속에서 AI는 스스로 말하고 행동합니다. 인간의 지시는 챗GPT에 입력되는 프롬프트마냥 길고 구체적이지 않습니다. 오히려 명령 조차도 필요없이 이미 주인이 원하는 게 무엇인지 알고 있는 경우도 많죠.

인간처럼 생각하는 AI는 프롬프트 엔지니어링을 필요로 하지 않는다

오픈AI의 COO 브래드 라이트캡은 10일 블룸버그 행사에서 "몇 년 뒤면 프롬프트 엔지니어링이 필요하지 않을 것"이라고 말했습니다. 즉 기술 발전으로 인해 AI가 인간과의 대화 맥락을 더 잘 파악하면, 굳이 프롬프트 엔지니어링을 사용하지 않아도 원하는 답을 알아서 내줄 거란 뜻입니다.

얼마 전 마이크로소프트가 발표한 '코파일럿(Copilot)' 기능도 비슷한 맥락에서 해석될 수 있습니다. 마이크로소프트가 내놓은 것은 ChatGPT의 MS버전인 코파일럿을 사용할 때, 프롬프트를 자동완성해주는 기능입니다. 아웃룩이나 Gmail에서 한번쯤 보셨을 답장 추천 기능과 비슷하죠.

여기에 더해 인간이 쓴 프롬프트를 AI의 관점에서 수정해주는 기능까지 선보였습니다. 이런 기능은 기능 자체로 의미가 있다기 보다는 새로운 가능성에 대한 상상력을 불어넣어 줍니다.

내가 필요로 할 프롬프트를 미리 입력해 알아서 돌리고 결과물만 가져다 줄 수 있다면?

이런 가정이 지배하는 AI 세계에서는 명령어가 아닌 맥락 정보가 가장 중요한 자원이 될 것입니다. 실제로 오픈AI는 다음으로 출시할 제품이 "AI 에이전트"라고 밝힌 바 있죠. 그리고 이 에이전트에 대면 GPT는 "멍청한 수준"이라고 표현했습니다.

인간처럼 생각하지만, 인간은 아닌

그런데, 처음부터 프롬프트 엔지니어링이 인간의 영역이긴 했을까요? 시중에 도는 "프롬프트 엔지니어링의 모든 것"같은 책이나 글에 대해 각 잡고 연구했던 개발자들이 있습니다. "넌 ChatGPT만큼 똑똑해", "너는 수학 전문가야"같은 칭찬을 달고 수학 문제들을 풀도록 프롬프트를 한 결과와 기계가 프롬프트를 자동으로 튜닝해서 얻은 결과들을 비교한 거죠. 실험 결과 가장 적합한 결과를 낸 프롬프트는 너무 이상해서 영어를 구사하는 화자는 만들어낼 수 없는 프롬프트였다고 합니다.

하지만 LLM은 영어 화자이기 전에 수학적인 알고리즘의 집합체입니다. 실험을 주도했던 개발자 릭 배틀은 인간의 프롬프트는 AI를 지나치게 의인화한다고 말합니다. AI가 사람이라는 전제 하에 "넌 정말 똑똑한 AI야"같은 말을 붙여서 결과를 얻고 이 결과가 칭찬 덕에 나아졌다고 믿은 것이죠. 실제로 이 칭찬이 먹히는 경우도 있었습니다. 하지만 실험 결과 거의 모든 경우, 기계가 보정한 프롬프트가 더 나은 결과를 만들어 냈습니다.

"자동화", "학습"에 최적화된 AI는 태생적으로 '자동 진화'의 운명을 타고났고, 그 과정에서 인간의 역할은 거의 없을 수 있습니다. 아마도 조만간 프롬프트 엔지니어링이라는 분야는 정식으로 인정받기 어려울 수도 있죠. 하지만 우리 인간은 늘 그랬듯, 또 다시 이 환경 속에서 생존하고 진화할 방향을 찾아갈 겁니다. 다음 레터에서는 AI가 절대 대체할 수 없는 것으로 현대 사회에서 돈을 벌고 있는 국내 기업의 사례를 소개해 드리겠습니다.