[4/21] '커밋푸시해줘' 홍길동 씨의 이야기 - "Critical thinking when agents do the work"를 읽고
바이브코더 홍길동 씨가 곤경에 빠진 이유는?
우리는 어쩌면 필요 이상으로 AI에 의존할 수 있다. 문제가 있다면 AI는 책임을 지지 않는다. AI가 만든 결과물을 사용함으로써 지는 책임은 사용자에게 있다. 책임을 지는 사람은 전부는 아니더라도 상당 부분을 이해해야 한다. 그러나 AI를 사용하면 할수록 그런 경향은 약화된다.
최근에 “Critical thinking when agents do the work“라는 글을 읽었다. 제목에서 알 수 있듯 비판적 사고에 대해서 강조하고 있다. 솔직해지자. 사실은 지긋지긋하지 않은가? 비판적 사고, 서점 어디를 가던 보이는 그 말. X나 Threads에 들어가면 항상 누군가는 이것을 정치 구호처럼 외치고 있다.
그러나 비판적 사고는 그렇게 강조를 해도 될 만큼 중요하다. 우리는 그것을 알고 있다. 그렇다면 왜 이 찝찝함은 가시지 않는가. 우리는 비판적 사고가 무엇인지를 잘 모르기 때문이다.
그렇기 때문에 비판적 사고를 하는 방법을 알아야 한다. “Critical thinking when agents do the work”은 비판적 사고의 필요성을 강조함을 넘어서 실용적인 프레임워크 또한 제공하고 있는데 그 내용을 요약해보고자 한다.
홍길동 씨의 하루
홍길동 씨는 AI에게 너무 많은 것을 맡기고 있다. 그가 AI에게 코드를 짜라고 시키면 AI는 이것을 사람이 할 수 없는 속도로 해결한다. 그에 대한 길동 씨의 반응은 어떠한가. “커밋푸시해”. 그렇게 작업은 끝난다. 그리고 길동 씨의 마음 속에는 다음에 구현할 기능에 대한 생각으로 가득하다.
어떠한가. 자신의 일상과 비교해보자. 요즘에는 많은 사람들이 이렇게 일을 처리하는 것 같다. 이렇게 일을 처리하면 무엇이 남을까? 이해 부채가 남는다.
이해 부채 (comprehension debt)란 이해하지 않고 넘어간 부분들로 인해 생기는 비용이다. 지금 당장은 별 문제가 없을지도 모른다. 그러나 비용이 쌓이고 쌓이면 문제가 발생한다. 다음 상황을 살펴보자.
길동 씨는 계속해서 기능을 추가한다. 어느 새부터 코드베이스는 감당할 수 없을 만큼 커졌다. 어느 날 길동 씨는 한 기능이 제대로 동작하지 않는다는 것을 알았다. AI에게 기능 수정을 요청한다. 그러나 에이전트를 아무리 굴리고 굴리고 굴려도 점점 나빠지기만 할 뿐 개선되지는 않는다. 길동 씨는 어떻게 해야 할까? 확실한 것은 그가 코드베이스를 유지보수할만큼의 이해는 하지 못한다.
아무리 에이전트의 성능이 많이 발전하더라도 결국 물리적인 한계는 존재한다. 코드베이스가 커지면 커질수록 모든 코드를 읽기는 어려워진다. 모든 코드를 읽지 못한 AI는 자신이 할 수 있는 최선의 선택을 하겠지만, 완벽하지는 않다.
사실 길동 씨, 노련한 개발자였던 길동 씨가 처음부터 AI를 신뢰하지는 않았을 것이다. 자신이 생각해야 할 중요한 것은 자신이 생각하고, 다른 것은 AI에게 맡기는 인지적 외주화(cognitive offloading)에서부터 시작했을 것이다. 그러다가 길동 씨는 “뭐야 잘 되네”라고 생각을 하고, 판단을 유보했을 것이다(deferral). 이렇게 유보된 판단이 많아지고 결국엔 감당할 수 없는 지경까지 왔을 것이다! (인지적 항복 (cognitive surrender))
제 생각이 무엇인지 모르겠어요
빚을 쌓지 않고 줄이는 방법은 빚을 갚으면 된다. 너무 당연한 소리인데, 이해 부채는 어떻게 상환해야 할 것인가. 먼저, 이해 부채를 해결하기 위해선 전체를 기억할 필요는 없다. 그것은 AI조차 불가능한 영역일 뿐더러 그렇게 효율적이지 않다.
이해 부채를 갚는 가장 효율적이고 현실적인 방법은 자신이 무엇을 모르는지 알고 있는 것이다. 비판적 사고는 근거를 따져 그에 따라 결정을 내리는 일이다. 그렇다면, 어디에서 근거가 부족한지를 아는 일은 비판적 사고의 일부이며, 꼼꼼함을 보여주는 일이다.
그렇지만 말은 쉽고 행동은 어려운 법이다. 우리는 골똘히 생각만 하고 지내지 않는다. 그래서 도대체 어디서부터 시작해야 하는지 모를 때가 많다. 그럴 때는 이런 프레임워크를 활용해 보자.
- 내가 올바른 문제를 다루고 있다는 것을 어떻게 알 수 있을까?
- 올바른 방식으로 해결하고 있다는 것을 어떻게 알 수 있을까?
- 내 결론을 뒷받침하는 증거가 있을까?
- 일이 끝났다는 것을 어떻게 알 수 있을까?
길동 씨의 사례로 돌아가보자. 길동 씨는 메모 애플리케이션을 만들고 있다. 어느 날 사용자에게 피드백이 들어왔다: “메모 저장이 너무 느려요!”
- 내가 올바른 문제를 다루고 있다는 것을 어떻게 알 수 있을까?: 길동 씨는 이것이 서버의 문제라고 생각한다. 그리고 길동 씨는 이 문제가 올바른 문제인지 알기 위해서 가정한다. 서버 쪽의 문제라면, ‘저장’ 버튼을 눌렀을 때 클라이언트에서 곧바로 요청을 보내고 있을 거야. 그리고 ‘저장’ 버튼을 눌렀을 때 클라이언트에서 얼마나 걸리는지 로그를 찍어본다. 그러자 클라이언트에서 요청을 처리하는 데 5초나 걸린다는 사실을 알아냈고, 그것이 파서 탓이라는 것을 같은 방법으로 알아낸다.
- 올바른 방식으로 해결하고 있다는 것을 어떻게 알 수 있을까?: 클라이언트에서 서버에 요청을 보내는 데 5초나 걸린다면, 일단 화면에는 저장되었다고 띄우고 비동기로 백그라운드에서 처리하는 방법을 사용하면 되지 않을까? 길동 씨는 이렇게 생각한다. 그렇다면 이 방법을 사용하였을 때 어떤 문제가 발생할 수 있을까? 아마 사용자가 안심하고 애플리케이션을 꺼버리면, 데이터가 유실되는 문제가 발생할 수 있지 않을까? 이것은 용인될 만한 문제인가? 고심 끝에 길동 씨는 아니라고 결론내리고, 파서 자체를 고치기로 한다.
- 내 결론을 뒷받침하는 증거가 있을까?: 길동 씨는 파서를 처리하는 알고리즘이 순차적으로 돌아가기 때문에 병렬로 처리한다면 문제가 해결될 것이라고 결론내렸다. 측정을 해서 비교해본 결과, 파싱 시간이 3분의 1로 줄었다.
- 일이 끝났다는 것을 어떻게 알 수 있을까?: 길동 씨는 파서를 고쳤다. 그리고 생각한다. “파서를 병렬로 처리함으로써 앱이 차지하는 자원이 늘었겠지? 저사양 기기에서 문제가 발생하지 않을까?” 길동 씨는 에뮬레이터를 저사양으로 설정하고 메모를 써본다. 작성한 글자가 일부 밀리는 현상이 발생했다. 길동 씨는 생각한다. 이 애플리케이션은 통계를 보니 10대들이 많이 사용한다. 10대들은 주로 보급형 폰을 사용한다. 따라서 이것은 해결해야 할 문제이고, 아직 일이 끝나지 않았다.
글에서는 또 이런 방법을 소개하고 있다. 내가 아는 것을 일단 모두 적어내고, AI에게 ‘사각지대’를 점검하는 것을 요청한다. 또, AI가 일을 마치고 나면 자신이 무엇을 했는지 요약해서 사용자에게 전달하는데 그것에 너무 의존하기 보다는 실행한 명령과 명령이 내보낸 출력부터 확인하라고 조언하고 있다.
의도와 다른 결과
길동 씨의 앱은 잘 되어가고 있다. 그래서 결제 기능을 추가하려고 한다. AI에게 결제 기능 추가를 명령한다. AI는 결제 정보에 결제한 사람을 사용자로 지정하고, 결제한 사람이 구독자인 것으로 가정하여 코드를 짠다. 그리고 길동씨는 부자가 된다. 어느 날, 누군가가 이렇게 피드백을 남긴다. “친구에게 구독권을 선물해주는 기능이 있었으면 좋겠어요.” 길동 씨는 AI에게 이것을 해달라고 명령한다. 그런데 이미 구독자 = 결제자로 설계했기 때문에, 이것을 고치려면 테이블 구조를 마이그레이션 해야하고, 이는 수백만 명의 사용자(!)가 존재하는 길동 씨의 앱에서 실행하기엔 너무 비용이 큰 계획이 되었다.
이렇게 결과물에 들어간 가정과 판단 근거가 드러나지 않은 채 쌓이는 빚이 의도 부채 (intent debt)이다. 의도 부채는 직접 작성하지 않은 부분에서 나오는 사용자의 의도와 다른 목표, 제약, 판단 근거이다.
나의 의도를 최대한 반영할 방법이 있을까? 글에서는 이렇게 조언을 한다. 바로 AI가 자신을 인터뷰하도록 하는 것이다. AI가 몰랐던 부분, 모호했던 부분을 사용자에게 질문함으로써 격차를 메운다.
사실, 출력 만큼이나 입력도 중요하다. 입력의 질이 좋아야 출력의 질도 좋다. LLM은 입력한 것을 기반으로 출력하기 때문이다. 그렇기 때문에 사용자의 의도를 최대한 반영해야 의도와 다른 결과가 나올 일도 줄어든다.
그리고 마지막으로
AI가 보편화되면서 할 수 있는 일이 많아졌다. 할 수 있는 일이 많아지면서 할 수 있는 양도 많아졌다. 그러나 할 수 있는 양이 많아졌다고 해서 하고 있는 양을 늘려야 할 필요는 없다. “Critical thinking when agents do the work”에서는 물론 이해의 중요성과 의도를 잘 반영하는 것도 중요시하지만, 감당할 수 없다면 양 자체를 줄이는 것도 조언하고 있다.
비판적 사고는 근거, 기저에 있는 근거를 통해서 판단을 하는 일이다. 나는 직관을 많이 이용하는 편인데, 때로는 빠르게 판단을 해서 좋은 결과를 낳았지만 또 무지성 코딩을 하게 되지 않았나 반성하게 된다.
21일 챌린지
9/21 작성 · 싸이버거 0개 적립
- 111/6
- 211/7
- 311/8
- 411/9
- 511/10
- 611/11
- 711/12
- 811/13
- 911/14
- 1011/15
- 1111/16
- 1211/17
- 1311/18
- 1411/19
- 1511/20
- 1611/21
- 1711/22
- 1811/23
- 1911/24
- 2011/25
- 2111/26
- 작성
- 오늘
- 놓침
- 예정
댓글
GitHub 계정으로 의견을 남길 수 있습니다.