AI 엔지니어가 되기로 마음먹으면 제일 먼저 하는 고민이 프레임워크 선택입니다. LangChain을 배워야 하나, LangGraph가 뜬다던데. CrewAI는? AutoGen은? 하나를 잘못 고르면 시간을 버릴 것 같고요.

그런데 공고 데이터를 보면 이 고민은 별 의미가 없습니다. 에이전트 전문 구인 보드가 2026년 3~5월 자기 사이트 공고 1,135건을 집계한 자료가 있습니다(운영 주체를 밝히지 않는 곳이라 한 시점의 스냅샷으로 읽어야 합니다). 거기서 절반 이상의 공고는 프레임워크를 아예 안 적습니다. 적는 공고는 평균 2.31개를 같이 적고요. LangChain 392건·LangGraph 256건·LlamaIndex 150건·CrewAI 106건·AutoGen 74건인데, 사실상 표준인 LangChain조차 혼자 나오는 공고는 8건 중 1건입니다. 하나만 골라야 하는 게 아니라는 뜻입니다.

연봉 데이터는 더 분명합니다. 프레임워크를 적은 공고들의 중앙값은 18만 5천~19만 달러로, 에이전트 공고 전체 중앙값(21만 3천 달러)보다 오히려 2만 달러쯤 낮습니다. 프레임워크 이름을 내세운다고 몸값이 올라가지 않는다는 겁니다. 참고로 범위를 미국 AI 엔지니어링 공고 4만 3천 건 전체로 넓히면 게재 급여 중앙값이 17만 6천 달러입니다(Axial Search). 에이전트 쪽이 조금 높긴 한데, 두 집계는 기간과 기준이 달라서 딱 떨어지는 비교는 아닙니다.

다섯 기능으로 나눈 AI 직군 중 이번 편은 애플리케이션입니다.

공고 원문에 반복되는 문장들

프레임워크 목록을 걷어내고 시니어 공고의 요구사항을 읽으면 다른 단어들이 반복됩니다. 엔지니어 공고 둘과, 같은 요구를 PM 입장에서 적은 공고 하나에서 요지만 옮겼습니다(원문은 링크로).

  • Future의 Applied AI Engineer($215,000~250,000): 평가 하네스와 품질 채점을 설계하고, Langfuse와 루브릭(채점 기준표)으로 안전성·효과·개인화를 측정하는 자리입니다.
  • Harvey의 에이전트 팀 엔지니어 공고(시니어·스태프, $193,400~340,000): 에이전트 행동을 프로파일링할 관측 체계와 계측을 개선하고, 저지연 에이전트 실행 인프라를 설계합니다.
  • HighLevel의 Principal PM(Conversation AI): 엔지니어링·AI 리더십과 함께 LLM 오케스트레이션부터 레이턴시, 캐싱, 신뢰성, 평가, 관측, 비용까지 챙깁니다. “성공 건당 비용(cost per successful outcome)“이라는 지표가 이 공고에서 나옵니다.

세 공고에서 공통으로 반복되는 건 프레임워크 이름이 아니라 평가(eval)와 운영 숫자입니다. 여기서 eval은 거창한 게 아닙니다. 내 시스템이 잘 답했는지 자동으로 채점하는 장치, 그리고 그 채점의 기준이 되는 정답 데이터셋(골든 데이터셋)을 말합니다.

파인튜닝 걱정은 내려놔도 됩니다

모델을 직접 학습시켜야 하는 것 아닌가 하는 걱정으로 시작을 미루는 사람이 많은데요. 실무자 1,340명을 조사한 자료(LangChain 자사 설문, 2025년 말)에서 57%는 파인튜닝을 하지 않습니다. 베이스 모델에 프롬프트와 검색(RAG)을 붙이고 평가로 품질을 잡는 게 실무의 기본형입니다. 같은 조사에서 응답자의 57.3%는 이미 에이전트를 프로덕션에서 돌리고 있고, 89%는 어떤 형태로든 관측 체계를 갖고 있습니다. ML 수학부터 다시 공부하는 것보다 평가와 운영을 익히는 쪽이 공고에 적힌 요구에 가깝습니다.

툴 이름은 공고에 거의 안 나옵니다

eval 툴은 이제 막 공고에 나오기 시작한 단계입니다. 영국 공고 집계(ITJobsWatch, 2026년 9월 2일 기준)에서 이름이 나오는 건 LangSmith(최근 6개월 38건)와 Langfuse(31건) 둘뿐이고, Braintrust는 페이지 자체가 없습니다. 연봉 통계는 전년 표본이 2~3건이라 아직 의미가 없습니다. 공고에 툴 이름이 이렇게 드물다는 건, 회사가 보는 게 특정 툴 사용법이 아니라 평가를 설계하고 운영 숫자를 읽을 줄 아느냐라는 뜻입니다.

프로토콜 하나는 예외입니다. MCP(Model Context Protocol)는 다섯 프레임워크 공고 어디에서나 17~24% 비율로 나오는데, 프레임워크를 가리지 않고 나오는 건 이 자료에서 MCP뿐입니다. 다만 보안 문제가 같이 커지고 있어서, 쓸 줄 안다고 말하려면 안전하게 쓰는 법까지 알아야 합니다.

급성장 중인 직함도 하나 있습니다. Forward Deployed Engineer, 고객사에 들어가 프로덕션까지 책임지는 자리인데 미국 Indeed 집계로 공고가 한 해 사이 729% 늘었습니다. 다만 같은 직함인데 연봉대는 둘로 갈립니다. 프론티어 랩의 FDE와 일반 기업의 FDE는 다른 자리라, 직함만 보고 판단하면 안 됩니다.

호주 시장의 실제 크기

호주 기준으로 기대치를 잡을 숫자도 있습니다. SEEK에서 “ai engineer”는 1,177건이 나오는데 “langchain”은 30건, “llm”은 101건입니다(2026년 9월 2일 기준, 키워드 검색이라 정확한 비교는 아닙니다). LLM 특화 자리는 아직 적습니다. 그래도 이름 있는 회사가 뽑는 건 분명합니다. Commonwealth Bank가 자회사 Bankwest까지 GenAI·에이전트 엔지니어를 뽑고 있고, 리크루터 공고에는 23만~34만 호주달러짜리 자리도 보입니다. 급여대는 대략 미드 13만16만 5천 · 시니어 16만 5천20만 · 프린시펄 20만~23만 호주달러 이상입니다(Big Wave Digital 등 현지 리크루터 가이드 종합, 1차 통계 아님).

그래서 뭘 만들면 되나

프레임워크 하나를 정해서 파는 게 아니라, 작은 것 하나를 끝까지 만드는 겁니다. 문서 검색 붙은 질문응답 하나를 만들고 정답 데이터셋 50문항을 직접 씁니다. 채점을 자동화하고, 레이턴시와 요청당 비용을 재서 기록으로 남깁니다. 위 공고들이 반복해서 요구하던 바로 그 항목들입니다.

이 프로젝트로 얻는 건 평가와 계측을 직접 해본 경험입니다. 위에 인용한 시니어 공고들이 요구하는 프로덕션 규모 경험까지 대신하지는 않습니다. 다만 그걸 해보고 지원하는 주니어 자체가 드뭅니다. 프레임워크는 만들다 보면 두어 개는 어차피 쓰게 됩니다. 먼저 다 배우고 나서 만들 필요가 없다는 얘기입니다.

다음 편은 인에이블먼트입니다. 직원들이 AI를 잘 쓰도록 돕는 자리를 다룹니다.