CPM

ML 엔지니어

머신러닝 모델을 개발하고, 실제 서비스에서 돌아가도록 배포·운영까지 책임지는 직무입니다.

최종 업데이트 2026-08-23

01

ML 엔지니어는 어떤 일을 하나요

ML 엔지니어는 모델을 만드는 사람이자 그 모델을 서비스에 태우는 사람입니다. 노트북에서 정확도가 잘 나오는 것과 초당 수백 건의 요청을 안정적으로 처리하는 것은 완전히 다른 문제이고, 그 간극을 메우는 것이 이 직무의 정체성입니다.

그래서 요구 역량이 두 갈래입니다. 머신러닝·딥러닝 지식과 소프트웨어 엔지니어링 능력입니다. 신입 지원자들이 가장 자주 놓치는 쪽은 후자입니다. 모델 실험만 잔뜩 해본 지원자보다, 정확도는 평범해도 API로 서빙해 실제로 돌아가게 만든 지원자가 유리한 경우가 많습니다.

현실적인 이야기도 필요합니다. 이 직무는 신입 진입 난도가 높은 편이고, 석사 이상이나 관련 연구·인턴 경험을 요구하는 공고가 상당수입니다. 학부생이 노린다면 end-to-end 프로젝트로 승부하거나, 백엔드·데이터 분석으로 입사해 ML 업무로 옮겨가는 경로를 함께 열어두는 편이 안전합니다.

하루 업무는 대략 이렇습니다

  • 풀어야 할 문제가 머신러닝으로 풀 문제인지부터 검토한다
  • 학습 데이터를 모으고 정제하며 라벨 품질을 점검한다
  • 모델을 학습시키고 실험 결과를 비교·기록한다
  • 모델을 API로 감싸 배포하고 응답 속도를 확인한다
  • 배포 후 성능이 떨어지지 않는지 모니터링하고 재학습을 준비한다

02

필요한 핵심 역량과 기술 스택

필수는 없으면 서류에서 걸러지는 항목, 권장은 대부분의 합격자가 갖추는 항목, 우대는 있으면 확실히 차별화되는 항목입니다.

프로그래밍 · 엔지니어링

  • Python필수

    이 직무의 공용어입니다. 문법을 넘어 클래스 설계, 예외 처리, 테스트까지 다룰 수 있어야 합니다.

  • 소프트웨어 엔지니어링 기본필수

    Git, 코드 구조화, 테스트, 문서화. 신입 ML 지원자가 가장 자주 부족한 영역이자 차별화 포인트입니다.

  • SQL필수

    학습 데이터를 직접 뽑아와야 합니다. 기본적인 조인과 집계는 필수입니다.

  • FastAPI / Flask권장

    모델을 API로 감싸 서빙하는 데 씁니다. 복잡할 필요 없이 예측 엔드포인트 하나를 만들 수 있으면 됩니다.

머신러닝 · 딥러닝

  • ML 기본 이론필수

    지도·비지도 학습, 과적합, 교차검증, 편향-분산. 왜 이 모델이 이렇게 동작하는지 설명할 수 있어야 합니다.

  • 평가 지표필수

    정확도만 보면 안 되는 이유, 정밀도·재현율·F1·AUC를 상황에 맞게 고르는 능력. 면접 단골입니다.

  • scikit-learn필수

    정형 데이터 문제에서 여전히 가장 많이 쓰입니다. 딥러닝보다 먼저 익히세요.

  • PyTorch (또는 TensorFlow)권장

    국내외 연구·실무 모두 PyTorch 비중이 큽니다. 하나를 골라 직접 모델을 짜본 경험이 필요합니다.

  • 수학 기초권장

    선형대수, 미분, 확률·통계. 논문을 읽거나 모델 동작을 이해하는 데 필요합니다. 증명 수준까지는 필요 없습니다.

  • LLM · 생성 모델 활용우대

    최근 공고에서 빠르게 늘고 있는 항목입니다. 파인튜닝이나 RAG 구성 경험이 있으면 눈에 띕니다.

데이터 처리

  • pandas / numpy필수

    데이터 정제와 피처 생성에 씁니다. 실무 시간의 상당 부분이 여기에 들어갑니다.

  • 피처 엔지니어링권장

    모델 성능을 가장 크게 좌우하는 작업입니다. 도메인 이해와 연결됩니다.

  • 대용량 데이터 처리 (Spark 등)우대

    회사 규모에 따라 필요합니다. 신입에게 필수는 아닙니다.

MLOps · 배포

  • Docker권장

    모델 환경을 재현 가능하게 만듭니다. ML 프로젝트에서 특히 중요합니다.

  • 실험 관리 (MLflow · W&B)우대

    어떤 설정에서 어떤 결과가 나왔는지 기록하는 도구입니다. 포트폴리오에 있으면 체계적이라는 인상을 줍니다.

  • 모델 서빙 · 모니터링우대

    배포 후 성능이 떨어지는 현상을 어떻게 감지할지에 대한 이해입니다.

  • 클라우드 (AWS SageMaker 등)우대

    GPU 자원 활용과 배포에 씁니다. 기본적인 클라우드 사용 경험이면 충분합니다.

03

우대 자격증과 경험

자격증은 실력을 대신하지 못하지만 서류 통과와 학습 커리큘럼에는 도움이 됩니다. 우선순위를 보고 고르세요.

관련 분야 석사 학위

우대

자격증은 아니지만 이 직무에서 가장 큰 가중치를 갖는 요소입니다. 연구 중심 팀이나 대기업 AI 조직은 석사 이상을 선호하는 경우가 많습니다. 학부 졸업으로 바로 갈 계획이라면 프로젝트와 경험으로 이 격차를 메워야 합니다.

Kaggle 성적

우대

메달권 성적은 실력을 보여주는 강력한 근거입니다. 다만 참가만 한 기록은 큰 의미가 없고, 상위권 진입 과정에서 무엇을 시도했는지 설명할 수 있어야 합니다.

공식 사이트 →

빅데이터분석기사

우대

공공기관·공기업 AI 직군에서 가점이 되는 경우가 있습니다. 사기업 ML 엔지니어 채용에서는 영향이 크지 않습니다.

공식 사이트 →

AWS ML / Google Professional ML Engineer

우대

클라우드 기반 ML 배포 역량을 보여줍니다. 실무 경험을 대체하지는 못하니 프로젝트를 먼저 만드세요.

정보처리기사

우대

AI 직군 사기업 채용에서는 거의 영향이 없습니다. 공기업을 함께 본다면 고려하세요.

공식 사이트 →

평가에 도움이 되는 경험

end-to-end로 배포까지 마친 ML 프로젝트

이 직무 포트폴리오의 핵심입니다. 노트북에서 끝나지 않고 누군가 사용할 수 있는 형태여야 합니다.

연구실 경험 · 논문

학부 연구생 경험도 충분히 의미 있습니다. 무엇을 맡았고 어떤 결론에 도달했는지가 중요합니다.

경진대회 상위권 기록

Kaggle, 데이콘 등. 순위 자체보다 시도한 접근과 실패한 시도를 설명할 수 있는지가 평가됩니다.

인턴 · 산학협력 프로젝트

실제 회사 데이터를 다뤄본 경험은 학교 프로젝트와 격이 다르게 평가됩니다.

논문 구현 · 기술 블로그

논문을 읽고 직접 코드로 옮겨본 기록은 학습 능력을 보여주는 좋은 증거입니다.

04

신입이 준비하는 포트폴리오 형태

개수를 늘리는 것보다 하나를 끝까지 완성하는 편이 유리합니다. 체크리스트를 기준으로 완성도를 점검하세요.

end-to-end ML 서비스 (가장 중요)

중급

데이터 수집부터 전처리, 학습, 평가, API 서빙, 배포까지 전 과정을 담은 프로젝트 하나. 모델 정확도가 최고일 필요는 없습니다. 오히려 왜 이 모델을 골랐고 어떤 지표로 평가했으며 서비스에 태울 때 무엇이 문제였는지를 설명할 수 있는 쪽이 훨씬 높게 평가됩니다.

  • 문제 정의: 이 문제를 왜 ML로 푸는가
  • 데이터 출처와 전처리 과정 기록
  • 베이스라인 모델부터 시작한 실험 기록 (무엇을 바꿔 무엇이 나아졌는지)
  • 선택한 평가 지표와 그 이유
  • FastAPI 등으로 만든 예측 API
  • Docker 이미지 + 배포된 접속 가능한 URL
  • README에 전체 파이프라인 다이어그램

실험 기록이 남아 있는 모델링 프로젝트

중급

ML은 시도와 실패의 연속입니다. 어떤 하이퍼파라미터와 피처 조합을 시도했고 결과가 어땠는지 표로 정리되어 있으면, 체계적으로 일하는 사람이라는 인상을 줍니다. MLflow나 W&B를 쓰면 더 좋고, 스프레드시트도 괜찮습니다.

  • 베이스라인 대비 성능 변화 표
  • 실패한 시도와 그 원인 분석
  • 교차검증 방식과 데이터 누수 방지 설명
  • 최종 모델 선택 근거

논문 구현 또는 최신 기법 적용 (선택)

심화

관심 분야 논문 하나를 골라 직접 구현하거나, LLM 파인튜닝·RAG 같은 최근 기법을 적용한 프로젝트입니다. 최신 흐름을 따라간다는 신호가 되고, 면접에서 깊은 대화로 이어지기 쉽습니다.

  • 원 논문 요약과 핵심 아이디어 설명
  • 구현 코드와 재현 결과
  • 원 논문과 결과가 다르다면 그 이유 분석

경진대회 참가 기록 (선택)

중급

Kaggle이나 데이콘 대회 참가 후 접근 방법을 정리합니다. 상위권이 아니어도, 상위 솔루션과 내 접근을 비교하며 배운 점을 정리하면 충분히 좋은 자료가 됩니다.

  • 문제와 평가 지표 요약
  • 내 접근 방법과 순위
  • 상위 솔루션 분석 및 배운 점

05

추천 학습 순서

기간은 하루 3~4시간 기준의 대략적인 기준입니다. 이미 아는 단계는 건너뛰고, 순서만 지켜도 헤매는 시간이 크게 줄어듭니다.

  1. Python과 수학 기초

    2개월

    목표 — Python으로 데이터를 자유롭게 다루고, 모델 설명에 나오는 수식을 겁내지 않는다.

    • Python 문법, 클래스, 가상환경
    • numpy·pandas로 데이터 다루기
    • 선형대수 기초 (벡터·행렬·내적)
    • 미분과 경사하강법의 직관
    • 확률과 통계 기초

    참고 자료

  2. 머신러닝 이론과 scikit-learn

    2개월

    목표 — 정형 데이터 문제를 받아 전처리·학습·평가까지 스스로 진행할 수 있다.

    • 지도학습 (회귀·분류)과 비지도학습
    • 과적합, 정규화, 교차검증
    • 결정트리·랜덤포레스트·부스팅 계열
    • 평가 지표 선택 (정밀도·재현율·F1·AUC)
    • scikit-learn 파이프라인 구성

    참고 자료

  3. 딥러닝

    2개월

    목표 — PyTorch로 신경망을 직접 구성하고 학습 루프를 작성할 수 있다.

    • 신경망 구조와 역전파
    • PyTorch 텐서·모델·학습 루프
    • CNN(이미지) 또는 Transformer(자연어) 중 관심 분야 선택
    • 전이학습과 사전학습 모델 활용

    참고 자료

  4. 프로젝트로 실전 경험

    2개월

    목표 — 관심 분야에서 스스로 문제를 정의하고 모델로 푸는 경험을 쌓는다.

    • 관심 도메인 정하기 (추천·비전·NLP 등)
    • 데이터 확보와 라벨링 고민
    • 베이스라인부터 단계적으로 개선
    • 실험 결과 체계적으로 기록

    참고 자료

  5. 모델 배포와 MLOps 기초

    1~2개월

    목표 — 학습한 모델을 API로 서빙하고 컨테이너로 배포할 수 있다.

    • FastAPI로 예측 엔드포인트 만들기
    • Docker로 환경 고정하기
    • MLflow 또는 W&B로 실험 관리
    • 배포 후 성능 저하(드리프트) 개념

    참고 자료

  6. 포트폴리오 정리 + 지원 준비

    1~2개월

    목표 — 면접에서 프로젝트의 모든 선택을 근거와 함께 설명할 수 있다.

    • 프로젝트 문서화 및 파이프라인 다이어그램
    • 코딩테스트 대비 (ML 직군도 대부분 봅니다)
    • ML 이론 면접 질문 정리
    • 석사 진학 여부를 포함한 진로 방향 점검

    참고 자료

06

신입이 자주 하는 실수

준비 방향을 잘못 잡으면 들인 시간에 비해 결과가 안 나옵니다. 아래 항목에 해당하지 않는지 점검해 보세요.

  • 노트북 안에서 끝나는 프로젝트만 있는 것. 서빙과 배포가 빠지면 ML 엔지니어가 아니라 모델링 연습으로 보입니다.
  • 소프트웨어 엔지니어링을 소홀히 하는 것. ML 직군도 코딩테스트를 보고, 실무의 상당 부분은 일반적인 개발 업무입니다.
  • 최신 모델부터 손대는 것. 기초 없이 대형 모델을 다루면 결과를 해석하지 못해 면접에서 무너집니다.
  • 정확도 숫자만 자랑하는 것. 데이터 분할이 잘못돼 있거나 데이터 누수가 있는 경우가 많고, 면접관은 그것부터 확인합니다.
  • 신입 진입 난도를 과소평가하는 것. 백엔드·데이터 분석 직무를 함께 지원해 선택지를 넓히는 것이 현실적입니다.

07

자주 묻는 질문

Q.ML 엔지니어는 석사가 꼭 필요한가요?

필수는 아니지만 유리한 것이 사실입니다. 연구 성격이 강한 조직일수록 석사 이상을 선호합니다. 반면 서비스에 모델을 태우는 일이 중심인 팀은 엔지니어링 역량을 더 봅니다. 학부 졸업으로 지원한다면 배포까지 완료한 end-to-end 프로젝트와 탄탄한 개발 실력으로 승부해야 하며, 백엔드나 데이터 분석으로 입사해 ML 업무로 전환하는 경로도 함께 고려하는 편이 좋습니다.

Q.ML 엔지니어와 데이터 사이언티스트의 차이는 뭔가요?

ML 엔지니어는 모델을 실제 시스템에서 돌아가게 만드는 데 무게가 있어 엔지니어링 비중이 큽니다. 데이터 사이언티스트는 문제 분석과 모델링·실험 설계에 더 집중합니다. 다만 국내 회사마다 직무명 사용이 제각각이라, 이름보다 공고의 담당 업무와 자격 요건을 읽는 것이 정확합니다.

Q.캐글은 얼마나 중요한가요?

메달권이라면 확실한 강점이 됩니다. 하지만 참가 이력 자체는 큰 가치가 없습니다. 순위보다 어떤 가설을 세우고 무엇을 시도했으며 왜 실패했는지를 설명할 수 있는지가 평가 대상입니다. 캐글에만 시간을 쏟기보다 end-to-end 프로젝트를 먼저 완성하는 편을 권합니다.

Q.수학을 어느 정도까지 알아야 하나요?

증명을 할 수 있을 필요는 없습니다. 선형대수(벡터·행렬 연산), 미분(경사하강법의 원리), 확률·통계(분포와 기댓값) 수준의 직관이 있으면 대부분의 실무와 면접을 감당할 수 있습니다. 논문을 깊게 읽거나 연구 직군을 노린다면 더 필요합니다.

Q.PyTorch와 TensorFlow 중 뭘 배울까요?

PyTorch를 권합니다. 연구 커뮤니티와 최신 모델 생태계가 PyTorch 중심으로 형성되어 있고, 국내 채용공고에서도 언급 빈도가 높습니다. 하나를 익히면 다른 하나로 옮기는 데 오래 걸리지 않습니다.

이 직무로 내 로드맵 만들기

졸업까지 남은 기간과 지금 수준을 고르면, 위 학습 순서를 시기별 계획으로 나눠 드립니다. 결과는 링크로 그대로 공유할 수 있습니다.

ML 엔지니어 로드맵 만들기 →

함께 보면 좋은 직무

데이터 분석가

데이터를 뽑아 분석하고, 비즈니스 의사결정에 필요한 답을 찾아 설득력 있게 전달하는 직무입니다.

백엔드 개발자

서버·API·데이터베이스를 설계하고 서비스가 실제로 돌아가게 만드는 뒷단 로직을 구현하는 직무입니다.