Sourcegraph AMP: 새로운 코딩 에이전트 시대의 개막

개요

본 비디오는 Sourcegraph의 AMP(AI-powered Modeling Platform)에 대한 깊이 있는 논의를 담고 있습니다. Sourcegraph의 CEO인 Quentin 및 AMP의 리드 엔지니어인 Thirstston은 AMP가 어떻게 탄생하게 되었고, 코딩 에이전트 분야에서 어떤 혁신을 가져오고 있는지, 그리고 앞으로의 비전에 대해 이야기합니다. 기존 코딩 도구인 Cody와의 차별점, AMP의 독특한 개발 방식, 그리고 AI 시대의 소프트웨어 개발 패러다임 변화에 대한 통찰력을 제공합니다.

AMP의 탄생 배경 (0:31 - 3:08)

• Cody에서 AMP로의 전환: Sourcegraph는 기존 코딩 도구인 Cody를 통해 LLM과 도구 활용에 대한 경험을 쌓았습니다. 하지만 Claude 3.5 Sonnet과 같은 최신 모델의 등장으로 LLM의 능력이 비약적으로 발전하면서, 기존 Cody의 틀로는 담아낼 수 없는 새로운 가능성을 발견했습니다. (1:02)
• 'Dictator of AMP'의 탄생: AMP는 기존의 제약을 벗어나 LLM에게 더 많은 권한과 도구를 부여하여 잠재력을 최대한 발휘하게 하려는 시도에서 시작되었습니다. Thirstston은 자신을 'AMP의 독재자'라고 칭하며, 새로운 제품의 탄생 비화를 설명했습니다. (0:31)
• 새로운 기대치 설정: LLM의 발전 속도가 매우 빠르기 때문에, 기존의 Cody 구독 모델로는 감당할 수 없는 수준의 비용과 새로운 사용 방식을 요구하게 되었습니다. 이에 따라 기존 고객과의 관계 및 기대치를 관리하기 위해 완전히 새로운 브랜드와 제품으로 재출발하는 것이 필요했습니다. (2:04)
• 기업 내부의 혁신: 기존의 대규모 엔터프라이즈 고객과의 계약 및 기대치는 새로운 혁신을 도입하는 데 걸림돌이 될 수 있습니다. 이러한 상황에서 Sourcegraph는 기존 비즈니스를 보호하면서도 새로운 혁신을 추구하기 위해 AMP라는 별도의 프로젝트를 시작했습니다. (3:05)

AMP의 핵심 가치 및 차별점 (3:08 - 7:45)

• 최고의 코딩 에이전트 구축: AMP의 최우선 목표는 '최고의 코딩 에이전트'를 만드는 것입니다. 현재까지 어떤 도구도 개발자들에게 6~12개월 이상 꾸준히 사용되지 못했던 점을 반성하며, AMP는 끊임없이 발전하는 모델과 도구의 최전선에 서고자 합니다. (3:15)
• 독립적인 브랜드 및 기술 스택: AMP는 Sourcegraph의 기존 플랫폼 및 릴리스 주기와 분리하여, 하루에도 15번 이상 새로운 기능을 배포할 수 있는 민첩성을 확보했습니다. 이는 기존의 'Google 방식'과는 다른, 빠르고 유연한 소프트웨어 개발 방식을 추구합니다. (4:38)
• 폭발적인 성장: AMP는 월 50% 이상의 성장률을 기록하며 빠르게 채택되고 있습니다. 소규모 팀에서도 수십만 달러의 연간 사용료를 지불하는 등, 기업 내 핵심 개발자들에게 강력한 가치를 제공하고 있습니다. (5:09)
• 새로운 모델과의 호환성: Async 에이전트의 등장은 단순히 한 번에 하나의 에이전트를 사용하는 방식에서 벗어나, 수십, 수백 개의 에이전트가 동시에 백그라운드에서 작동하는 시대를 열 것입니다. AMP는 이러한 미래를 준비하고 있으며, 10~100배의 성능 향상을 목표로 합니다. (6:12)
• 빠른 변화에 대한 대응: 코딩 에이전트 시장은 6~12개월마다 빠르게 변화합니다. Cursor, Copilot 등 기존 도구들이 빠르게 뒤처지는 것을 보며, AMP는 변화에 신속하게 대응할 수 있는 코드베이스와 제품 전략을 구축하고 있습니다. (7:15)

AMP의 개발 및 운영 방식 (8:16 - 12:57)

• 고객 신뢰 기반의 혁신: Sourcegraph의 기존 제품에 대한 고객 신뢰를 바탕으로, AMP는 일관되지 않은 가격 정책, 사용자 모델 선택 불가 등 일반적인 보안 및 규정 준수 절차를 건너뛰고 신속하게 혁신을 추진하고 있습니다. (8:16)
• 새로운 사고방식: 기존의 소프트웨어 개발 방식을 벗어나, 새로운 것을 배우는 것에 열려 있는 팀원들을 통해 혁신을 가속화하고 있습니다. 특히, 경험이 적은 팀원들은 기존의 고정관념 없이 새로운 아이디어를 제안하는 데 강점을 보입니다. (9:19)
• 개인 프로젝트 방식의 개발: AMP 팀은 코드 리뷰를 최소화하고, 바로 메인 브랜치에 푸시하는 등 개인 프로젝트와 같은 방식으로 개발을 진행합니다. 이는 빠른 피드백 루프와 신속한 배포를 가능하게 합니다. (9:50)
• "구글 방식" 탈피: 기존의 "제품 출시 후 스케일업" 방식에서 벗어나, 언제든지 새로운 기술 변화에 대응할 수 있도록 유연성을 유지하는 데 중점을 둡니다. (10:22)
• 소규모 팀과 빠른 배포: AMP 코어 팀은 8명으로 소규모를 유지하며, 하루 15번 이상의 배포를 통해 신속하게 사용자 피드백을 반영합니다. (10:52)
• 플랫폼 팀의 지원: 보안, 인프라 등 플랫폼 팀의 지원을 통해 AMP 팀은 핵심 기능 개발에 집중할 수 있습니다. (11:23)

AMP의 제품 구조 및 전략 (12:57 - 23:51)

• VS Code 확장 및 CLI 지원: 초기에는 VS Code 확장 프로그램으로 시작하여 빠른 피드백을 얻었으나, CLI의 유연성과 확장성을 확인하고 CLI 지원도 강화했습니다. 현재 두 가지 모두를 지원하며 장단점을 활용하고 있습니다. (13:26)
• CLI의 이점: CLI는 SSH, 다른 에디터, 멀티태스킹 등 다양한 환경에서 활용 가능하며, 터미널이 제공하는 기본적인 UI 기능을 무료로 활용할 수 있다는 장점이 있습니다. (14:30)
• VS Code 확장 프로그램의 이점: 다이어그램, 이미지 렌더링 등 시각적인 요소 표현에 강점을 가집니다. (16:30)
• 데이터 기반 의사결정 지양: AMP는 분석 데이터보다는 사용자 경험과 피드백을 기반으로 의사결정을 내립니다. (18:04)
• "Vibe Coding" 지양: AMP는 단순한 AI 채팅 인터페이스나 "Vibe Coding"을 지양하고, 최고의 코딩 에이전트 경험을 제공하는 데 집중합니다. (21:13)
• 최고의 코딩 에이전트에 집중: 고객이 다양한 모델 선택이나 저렴한 가격을 원하더라도, 궁극적으로는 최고의 코딩 에이전트 경험을 원한다는 점을 강조합니다. (22:16)
• 모델 선택보다는 시스템 최적화: 특정 모델을 선택하는 것보다, 모델에 최적화된 시스템 프롬프트, 도구, 환경을 구축하는 것이 더 중요하다고 봅니다. (24:51)
• 중간 모델(Mid-tier Models)의 존재 가능성: 현재는 최고 성능의 모델에 집중하지만, 향후에는 속도가 훨씬 빠른 저사양 모델도 특정 작업에 유용하게 활용될 가능성을 열어둡니다. (26:25)
• 오픈 소스 모델 활용: 최신 오픈 소스 모델에도 관심을 가지고 있으며, 내부적으로도 여러 모델을 실험적으로 사용하고 있습니다. (27:58)

미래 전망 및 산업 동향 (23:51 - 69:50)

• 빠른 변화와 예측의 어려움: LLM의 발전 속도가 매우 빨라 6개월 후를 예측하기 어렵습니다. 이에 따라 AMP는 변화에 민첩하게 대응할 수 있는 구조를 유지합니다. (23:51)
• 개발자 도구의 진화: AI 에이전트의 등장으로 개발자 도구의 패러다임이 변화하고 있습니다. IDE, CLI 외에도 다양한 인터페이스와 비동기 에이전트의 활용이 중요해질 것입니다. (63:38)
• 새로운 역할의 등장: 비동기 에이전트와 AI의 발전으로 소프트웨어 개발팀의 구조가 변화할 것입니다. 엔지니어는 더 이상 단순한 코드 작성자를 넘어, 제품 기획, 고객 소통 등 다양한 역할을 수행하게 될 것입니다. (72:21)
• 'Power User' 중심의 개발: AMP는 'Power User' 즉, AI를 최대한 활용하여 혁신적인 결과물을 만들고자 하는 사용자들에게 집중합니다. (74:25)
• 첫 번째 성공 사례의 중요성: 고객에게 AMP가 얼마나 강력한 가치를 제공하는지 직접 경험하게 하는 것이 중요합니다. (60:32)
• AI와 함께하는 소프트웨어 개발: AI 에이전트는 개발자의 사고 과정을 보조하고, 반복적인 작업을 자동화하며, 새로운 아이디어를 빠르게 구현할 수 있도록 돕습니다. (66:11)
• 개발자 경험의 재정의: AI 에이전트의 등장으로 코드 리뷰, PR 처리, 테스트 실행 등 개발 워크플로우 전반이 변화하고 있습니다. (66:43)
• 버전 관리 시스템의 변화 가능성: 현재의 Git 시스템이 AI 에이전트의 대규모 병렬 작업에 적합한지 의문을 제기하며, 미래에는 새로운 버전 관리 시스템이 등장할 수 있다고 전망합니다. (68:16)
• AI를 위한 개발 환경: 코드를 AI 에이전트가 이해하고 활용하기 쉬운 형태로 발전시킬 필요가 있습니다. (53:49)

핵심 요약 및 제언

• AMP는 끊임없이 변화하는 AI 환경에 빠르게 적응하며 최고의 코딩 에이전트를 만들기 위해 노력하고 있습니다. (2:04, 7:15)
• 개발자는 AI 시대를 맞아 새로운 기술과 사고방식을 수용하고, 'Power User'로서 AI를 최대한 활용하는 능력을 길러야 합니다. (72:21, 74:25)
• AMP는 비약적인 발전을 거듭하고 있으며, 개발자들은 AMP를 사용해보고 피드백을 제공하여 함께 미래를 만들어갈 것을 권장합니다. (81:45)