수학계에서 가장 아름답다고 여겨지는 오일러 공식 e^(ix) = isin(x) + cos(x)을 고등학교에서 왜 안가르치는지에 대한 나름대로의 생각을 정리해봄.

 1. 의외로 많은 학생들이 간과했을 사실인데, 학부에선 삼각함수와 지수함수의 정의를 똑바로 하지 않음.

실수에서 실수로 가는 함수 f(x) = sin(x)가 뭐냐? 라고 물으면 학부에서 안알려준다

고등학교 식의 정의 예컨대 2pi를 주기로 갖는 주기함수이고 0 =< x < 2pi 내에선 각과 원주에 대한 일정한 비율이다 이 정도로 막연한 추상만을 가지고 있음

물론 해석학 배우고 나면 실수 전체에서 해석적인 함수이며 sin(x) = x - (3!의 역수)x^3 + (5!의 역수)x^5 - ... 이런 식으로 무한히 이어지는 함수라고 정의할 수 있는데 이에 대해서 몇 가지 질문이 필요함.

①무한합이 뭐냐? 수학에서 무한합이라는 연산은 존재하지 않음.

일단 덧셈연산부터 다루자. 덧셈연산은 실수에서만 정의될 필요가 없지만 실수에서만 덧셈연산을 논하자면 연산 + 는 다음과 같이 정의된다.

R을 실수집합이라고 하자. 함수 + : R * R -> R는 실수집합 위에 정의된 이항연산이다.

기본적으로 덧셈연산은 이항연산이기 때문에 무한합이라는 건 존재하지 않음. 무한에 대해서 제대로 다루지 않는 비수학전공자들이 흔히 하곤 하는 대표적인 오류다

따라서 sin(x)를 위와 같은 무한합으로 정의했을 때 이게 무슨 의미냐? 라고 물으면 "함수 sin(x)는 실수집합 위에서 해석적이기 때문에 테일러 나머지 항이 0으로 수렴하므로 위와 같은 등식으로 표현될 수 있다"라고 대답해야지 "sin(x)는 위와 같이 정의될 수 있다"고 하면 이 놈이 똑바로 알고 말하는 건지 분간이 안 된다. 내가 조교라면 이렇게 답안지를 적었을 경우, 불러서 똑바로 의미 말 못하면 0점처리할거임.

②왜 위와 같이 정의하면 난감하냐? 복소수 범위에서 sin(x)를 정의하기가 곤란함.

학부에서는 애초 삼각함수에 대해선 미분가능하기 때문에 복소수에서 해석적이며 따라서 테일러 급수로 표현할 수 있다, 이 정도로만 다룬다. 학부 복소해석학에서 복소평면 위에 정의된 sin(z)란 그냥 위의 실변수 x를 복소변수 z로 바꿔치기한 z - (3!의 역수)z^3 + (5!의 역수)z^5 - ... 이런 식으로 정의하거나, {e^(iz) - e(-iz)} / 2i 와 같이 아예 오일러 공식을 이용한 식으로 정의해버린다. 전자와 같이 로랑 급수로 전개하는 이유를 물어보면 논리가 명쾌하게 떨어지지 않는다는 걸 발견할 수 있다.

 왜 테일러/로랑 급수로 표현하나? -> 해석적이니까. 왜 해석적인가? -> 미분가능하니까. 복소수에서는 한 번 미분가능하면 해석적임. 코시-리만 방정식이 성립하니까 해석적이고 따라서 미분가능하더라. 왜 코시-리만 방정식이 성립하나? -> 오일러공식으로 sin(z)를 정의해보니 되더라. 오일러 공식으로 sin(z)를 정의하면 뭐가 좋냐? 왜 그렇게 정의하냐? -> 테일러 급수/로랑 급수로 쉽게 함수를 무한합으로 표현할 수 있는데(단, 함수는 고립특이점을 제외한 적당한 torus에서 해석적이어야 한다), 각 항의 계수는 코시 적분 공식에 의해 미분과 선적분 사이의 긴밀한 관계를 나타내는 좋은 지표이기 때문이다.

논리가 순환한다. 참고로 난 복소해석 전공이 아님을 유의하길 바람

이 현상이 왜 발생하는가? 학부 교재는 sin(z)를 정의하지만 이게 정확하게 어떤 함수인지에 대해선 별 관심이 없다. 학부 복소해석학의 목표는 1차적으로 로랑 급수이고, 나머지 후반부는 해석적 연장일 거임. 나머지 후반부는 제대로 안 배워서 대답을 못하겠다
다시, 그럼 왜 sin(z)를 실변수 x를 z로 바꿔치기하는 방식으로 정의하나? 수학교육학에서는 이를 형식불역의 원리라고 하는데, 요약하자면 실수에서 성립하는 성질이 복소수에서도 성립하도록 '정의'하고 싶어서 그렇게 한 거임. 즉, 수학자들 입장에서는 실수에서 성립하는 삼각함수의 성질이 복소수에서도 성립하기만 하면 그만인 거지 그 함수가 근본적으로 어떤 배경에서 정의되는 함수인지에 대해선 오일러 등식 그 이상으로 깊이 생각할 필요성을 못 느낀다는 얘기임.

본인 학부때 교재 Silverman 복소해석학에서 복소지수함수를 정의하는 방식을 보면, 지수함수 e^(x) = 1 + x + (2!의 역수)x^2 + (3!의 역수)x^3 + ...라는 무한합에서 지수법칙이 성립하게 하기 위해서 오일러 공식을 유도함. 즉 지수함수에 대한 테일러 급수를 복소수 범위에서 확장하는 식으로 정의한다. 그러면 실해석에서 테일러 급수를 알아야 하고 다시, 실해석에서 지수함수는 어떻게 정의되는가? 로 돌아가는데 실해석에서 지수함수를 특별하게 다루지 않는다. 실해석에서 지수함수를 다루는 방식은 미분해도 자신과 같은 함수 이런 식으로 미분방정식의 접근법과 비슷함.
왜 그런가? 해석학에선 지수함수를 엄밀하게 정의하는 데 관심이 없다. 해석학의 관심은 해석함수와 엡실론-델타 논법임.

2. 따라서 사실, 학부 수준에서 삼각함수를 정의하는 방식은 해석적이라는 전제 하에 무한합으로 표현하는 경우가 많은데, 그에 대한 배경지식은 1년치 학부 해석학임. 이것을 고등학생에게 설명하는 건 불가능함. 그럼 제시만 하고 외우라고 할까? 누군가는 그런 교수 스타일을 선호할 수 있겠지만 나는 아님.

3. 오일러 공식의 증명 또한 다루기 곤란하다. 테일러 급수 없이 오일러의 공식을 증명하는 건 어렵지 않지만 수학적 맥락이 제거되어있기 때문에 이 역시 선호하지 않음.

왜 이런 수많은 난점이 발생하는가? 그것은 여러분이 수학 비전공자여서 그런 것.

학부 수학은 근대 수학에 가깝다. 근대 이전, 해석학이라면 볼차노&코시&바이어슈트라스 이전의 주먹구구식 극한에서 탈피하기 위한 논리적 엄밀함을 확보하기 위한 역사적 흐름과 그 의의를 느낄 수 있는 게 본질적 목표이고 위상수학이라면 해석학에서 잠시 배웠던 수열의 극한이 사실은 집합의 개/폐에 의존함을 발견해, 그러한 집합의 개/폐에 따라 공간과 집합을 어떻게 분류할 것인가에 대한 당시 수학자들의 여러 가지 대답을 학습하는 게 본질적 목표가 될 것이며, 대수학이라면 가우스와 아벨, 갈루아가 생존할 당시 수학계에서 매우 Hot한 질문이었던 '5차 이상의 고차방정식에 대한 일반적 근의 공식은 존재하는가?'를 군론의 개념으로 풀이하는 방법을 배우는 게 본질적 목표인데, 이게 본질적 목표가 된 이유는 수학자 Felix Klein이 Erlangen Program이라는 위대한 논문에서 수학적 접근 방법을 군에 의한 대수적 방식으로 혁신적으로 바꾸길 제의했고, 그에 따라 수학은 정말로 폭발적으로 성장하고 순식간에 수많은 업적들을 이룩했기 때문에 그런 거임. 미분기하는 양자역학이나 천체물리와 많이 연관이 되지만 사실 이 역시 2차원 (위상)(미분)다양체를 어떻게 분류할 것인가에 대해 가우스 곡률과 오일러 표수로 분류할 수 있으며(1차원 다양체라면 곡률과 꼬임률) 그 개념들이 가우스-보넷 정리로 연관되는 방식을 얼마나 매끄럽게 이해할 수 있는가가 본질적 질문이고...
즉 학부 수학은 이전의 주먹구구 방식과 비엄밀함과 막연함을 버리고 1700~1800년대 후반까지의 근대적 수학이 어떤 식으로 확립되고 발전했느냐를 배우는 게 최종 목표임. 그 맥락을 똑바로 이해해야지 4년제 학부 수학 course를 훌륭하게 이수했다고 말하는 거임.
그런데 고등학교는 이러한 맥락 자체를 가르칠 생각을 안 하고, 여러분은 비전공자라 그런 걸 알지 못하니 이런 난점에 부딪히는 것.
그래서 수학이 힘들고 할 때마다 새로운 게 나오고 알고 있었던 게 사실 완전히 새로운 논의와 의미 위에서 새로이 구축되는 걸 수시로 목격하기도 하고 그런 거임.

Q1. 이런 거 굳이 학생들한테 가르칠 필요 없지 않냐?

A1. 맞음. 근데 그게 결국 2021년 현재의 정규 교육과정 아님? 그럴 거면 굳이 바꿀 필요가 있나?

Q2. 제한적으로 가르치면 어떤가?

A2. 지금 정규 교육과정도 애들 못따라온다.

Q3. 어쩌라는 건가?

A3. 지금 있는거나 잘해. 우리과 애들 보면 수능 수학 만점받고 그런 애들도 대학수학에서 개박살나가지고 공부 포기한 학생 있다. 정규 교육과정을 잘 해도 박살나곤 하는데 정규 교육과정도 이수 못한다면 말해봤자 입아프다.

추신. 가령 예를 들어 오일러 공식을 통해 삼각함수의 합차공식을 설명하기가 대단히 좋은데, 오일러 공식을 말한다면 복소평면 위에서의 회전변환이 반드시 들어가야 한다고 생각함. 결국 복소평면 위에서의 삼각함수의 합차공식과 회전변환이 오일러 공식에 의해서 매우 쉽게 표현이 된다, 이 역시 초등 수준의 변환기하에서 학습 목표로 하는 바임. 이러한 맥락 없이 그냥 오일러 공식을 얘기하는 건 정규 교육과정이 행하고 있는 주입식 교육과 차이를 찾을 수 없다는 점에서 별로 마음에 안 든다는 얘기임.

사실 이러한 회전변환에서 할 수 있는 얘기가 determinant가 보존되고 아니면 뭐 이러한 회전행렬들이 군을 이루는 등의 좋은 얘기가 많이 있음. 그런 맥락들이 오일러 공식 하나로 다 유도가 되는건데...난 이런 부분은 하면 좋기 때문에 할 수 있으면 해 주는 게 좋다고 생각한다