Attention, Please!!!

본 게시물은 Gilbert Strang 교수님의 강의를 기반으로 작성되었습니다.   선형대수학의 근본적인 문제는 연립선형방정식을 푸는 것이다. 연립방정식은 여러 개의 선형방정식으로 이루어진 방정식의 집합이라고 표현할 수 있다. 각 방정식은 미지수들이 선형적인 형태로 나타나는 것이 특징이며, 이 방정식을 한 번에 풀어 여러 미지수의 값을 찾는 것이 가장 큰 목표이다.  연립선형방정식은 일반적으로 Ax = b와 같은 형태로 표현할 수 있으며, Ax가 x(col1) + y(col2)으로 표현되면, 이를 선형결합(Linear Combination)이라고 아래의 그림처럼 정의할 수 있다.   본 게시물에서는 연립방정식을 3 가지의 관점에 대해 다룰 것이다.  1. Row Picture Row Picture는 연립..

자연어처리에 대해 여러 논문을 읽고 공부하고 있지만, 대학교 때 배운 교과목 중 가장 중요하다고 판단되는 것은 단연 선형대수학이다. 2017년 발표된 "Attention is All You Need" 논문에서 소개된 Attention 메커니즘과 Softmax 연산만 보아도 선형대수학의 중요성을 쉽게 느낄 수 있다. Attention 메커니즘은 벡터와 행렬의 곱셈, 내적 연산, 그리고 확률 분포 계산과 같은 수학적 원리를 기반으로 동작하며, Softmax 연산은 고차원 공간에서 데이터를 정규화하여 특정 요소의 가중치를 구체화한다. 이러한 과정은 선형대수학적 사고를 바탕으로 효율적이고 정교하게 구현된다. 또한, 대표적인 언어 모델인 BERT와 GPT는 고차원 벡터 공간에서 텍스트의 의미를 학습하고 표현하는 ..