AI 수학, 네 기둥만 먼저 세운다 — 내가 잡은 로드맵

표 1 · 도식 1작성 Rhymbro

AI 공부를 시작하면 누구나 같은 벽을 만난다. 논문과 교재가 요구하는 수학의 범위가 어디까지인지 가늠이 안 된다는 것. 전부 다 하려면 수년이 걸리고, 건너뛰면 코드가 주문이 된다. 내가 잡은 기준은 하나다 — “이 수학이 없으면 어떤 코드 한 줄을 이해 못 하는가”를 역으로 추적하는 것.

1~16주 기초 수학, 17~32주 선형대수, 33~48주 미분과 최적화로 이어지는 학습 진행표 타임라인 — 개념도 — AI 수학 진행표 앞 3단계. 본문 내용을 바탕으로 자체 제작

네 기둥과 그 이유

① 선형대수 — 신경망의 모든 연산은 결국 행렬 곱이다. 벡터·행렬·내적·고유값까지가 1순위. 텐서의 shape 에러를 읽을 수 있게 되는 게 첫 목표다.

② 미분(그중 편미분과 연쇄법칙) — 역전파는 연쇄법칙 그 자체다. 적분보다 미분이 압도적으로 중요하고, 그래디언트가 “가장 가파른 방향”이라는 기하적 감각이 핵심이다.

③ 확률·통계 — 손실함수의 정체가 여기서 나온다. 크로스 엔트로피가 왜 분류의 손실인지, 최대우도가 뭔지 알면 손실함수를 외우지 않고 이해하게 된다.

④ 최적화 기초 — 경사하강법, 학습률, 수렴. 볼록/비볼록의 차이 정도까지만 있어도 하이퍼파라미터 튜닝이 감이 아니라 판단이 된다.

실제로 짜본 진행표 — 2년, 8단계

말로만 정하고 끝내면 흐지부지되기 쉬워서, 실제로는 104주(2년)짜리 진행표를 만들어 4개 기둥을 주차 단위로 배치했다. 1년 차는 기초를 다지는 구간, 2년 차는 같은 기둥을 딥러닝 수학 수준까지 심화하는 구간이다.

구간	주차	내용
Phase 1	1~16주	기초 수학 리부트(사칙연산~함수~좌표평면)
Phase 2	17~32주	① 선형대수 — 벡터·행렬·내적·고유값
Phase 3	33~48주	② 미분과 최적화 기초 — 편미분·체인룰·경사하강법
Phase 4	49~64주	③ 확률과 통계 — 베이즈·분포·가설검정
Phase 5~8	65~104주	④ 최적화 심화 + 선형대수·확률의 딥러닝 응용(PCA, SGD, 정보이론, 역전파)

16·32·48·64주차마다 새 개념 없이 그동안 배운 걸 통합하는 미니 프로젝트 주간을 넣었다. 예를 들어 32주차는 선형대수 구간이 끝나는 시점이라 “영화 취향 벡터로 코사인 유사도 추천 시스템 만들기”처럼 개념을 실제 코드로 굴려보는 과제를 배치했다. 진도 자체보다 이 체크포인트가 “정말 이해했는가”를 걸러주는 역할을 한다.

체크포인트(16·32·48·64주차)가 진도보다 “정말 이해했는가”를 거른다. 개인 학습 계획으로 직접 짠 진행표이며 본문 표와 같은 구간이다.

코드로 확인하는 최소 단위 — 행렬곱 한 줄

선형대수 기둥에서 가장 먼저 손에 잡히는 건 신경망 한 층이 결국 행렬곱 한 번이라는 사실이다.

# 입력 벡터 x(1x3)에 가중치 행렬 W(3x2)를 곱하고 편향 b를 더하는 것이
# 신경망 한 층의 순전파(forward) 연산 전부다. y = xW + b
import numpy as np

x = np.array([[1.0, 0.5, -1.0]])       # 입력 1건, 특성 3개
W = np.array([[0.2, 0.1],
              [0.4, -0.3],
              [0.1, 0.5]])            # 3->2로 축소하는 가중치
b = np.array([0.1, -0.1])              # 출력 노드마다 편향 1개

y = x @ W + b   # @ 연산자가 행렬곱, 이 한 줄이 신경망 한 층의 전부다
print(y)  # [[0.15 -0.15]] 형태의 결과

이 코드 한 줄을 완전히 이해하는 데 필요한 게 선형대수 기둥의 최소 범위다. shape이 안 맞아 에러가 날 때 원인을 스스로 짚을 수 있으면, 그 시점부터는 나머지 심화 내용을 필요할 때마다 찾아 배우는 방식으로도 충분하다고 판단했다.

104주 진행표는 개인 학습 계획으로 직접 짠 것이며, 특정 교재나 강의를 그대로 옮긴 것이 아니다. 주차별 배치는 진행하면서 얼마든지 조정될 수 있다.

순서와 깊이에 대한 결론

순서는 선형대수 → 미분 → 확률 → 최적화. 단, 각 기둥을 “완주”하고 다음으로 넘어가는 게 아니라, 파이썬 코드로 확인되는 지점까지만 파고 다음으로 넘어간다. 예컨대 고유값 분해는 손으로 3×3까지 풀어보고, 나머지는 NumPy로 확인하는 식이다. 수학을 위한 수학으로 새지 않는 것 — 그게 엔지니어의 수학 공부라고 결론 내렸다.

미니 프로젝트를 4개(16·32·48·64주차)만 완주해도 감이 잡힌다는 걸 확인했다 — 그 이후 심화 구간은 필요한 만큼만 파는 쪽으로 방향을 잡았다.

다음 글에서는 선형대수 첫 구간(벡터와 내적)을 코드와 함께 정리한다.

함께 읽기