“연속하지만 어디서도 미분 불가능한 함수”: 바이어슈트라스가 남긴 유산

미적분의 숨겨진 역설, 바이어슈트라스 함수

미적분은 17세기 뉴턴과 라이프니츠의 손에서 탄생한 이후, 물리학·천문학·공학 등 다양한 분야를 혁신적으로 발전시켰습니다. 그러나 한편으로는, 19세기 중반까지도 미적분이 지탱하는 논리적 기반은 비교적 “직관과 형식의 혼합체”에 가까웠습니다. 그러던 중 독일의 수학자들이 “엄밀성(rigor)”에 집중하기 시작했고, 그 선봉에 선 인물 중 한 명이 카를 바이어슈트라스(Karl Weierstrass)입니다.

바이어슈트라스가 1872년에 제시한 함수는 당시로써는 충격적인 성질을 갖고 있었습니다. 바로 “모든 점에서 연속이지만, 어디서도 미분이 불가능하다”는 것이죠. 이 글에서는 바이어슈트라스 함수가 무엇인지, 어떻게 정의되는지, 그리고 왜 수학사적으로 그토록 중요한 의미를 가지는지 살펴보겠습니다.

---

1. 바이어슈트라스 함수의 탄생 배경

• 프랑스 학파 vs. 독일 학파
  19세기 당시 프랑스 수학자들은 주로 미적분을 물리학이나 기계학 문제에 적용하는 데에 관심이 컸습니다. 반면 독일 학자들은 “미적분의 기초를 더욱 엄밀하게 재정의해야 한다”는 입장이었죠.

• 연속성과 미분 가능성
  그때까지 많은 사람들이 “연속함수라면 (특별한 몇 점을 제외하면) 대부분 미분이 가능하다”고 당연하게 여겼습니다. 실제로 우리가 흔히 보는 매끄러운 곡선은 거의 모든 곳에서 접선을 그릴 수 있기 때문입니다.

• 바이어슈트라스의 문제 제기
  19세기 독일 학계에서 등장한 카를 바이어슈트라스는 “연속이지만 전혀 미분 불가능한 함수”를 직접 만들어 보임으로써, 이 믿음을 근본부터 뒤흔들어 버렸습니다.

---

2. 바이어슈트라스 함수의 정의

2.1 전형적인 형태

바이어슈트라스가 제안한 “병적(pathological) 함수”의 대표적 예시는 다음과 같은 급수로 정의됩니다.

$$
W(x) = \sum_{n=0}^\infty a^n \cos\bigl(b^n \pi x\bigr),
$$

이때 일반적으로 다음 조건을 만족하도록 설정합니다.

1. $0 < a < 1$
2. $b$는 1보다 큰 정수(보통 홀수)
3. $a \cdot b > 1$

이 급수가 수렴하기 위해서는 $a^n$이 충분히 빨리 줄어들어야 하고, 동시에 $b^n$이 큰 값으로 증가하면서 코사인 항이 빠르게 진동해야 합니다. 이런 모순적인 조건(빠르게 작아지기도 하고, 빠르게 진동하기도 하는)을 절묘하게 조합하면, 아주 복잡한 진동 패턴을 만들어낼 수 있습니다.

2.2 연속성과 균등수렴

• 연속성
  각 항 $a^n \cos\bigl(b^n \pi x\bigr)$ 자체는 연속함수이며, $0 < a < 1$이므로 항들이 $n$이 커질수록 점차 작아져서 급수 전체가 균등수렴(uniform convergence)합니다.
  균등수렴하는 연속함수들의 합은 연속함수이므로, $W(x)$는 모든 점에서 연속임이 보장됩니다.

2.3 어디서도 미분 불가능한 이유

• 빠른 진동과 접선 불가능성
  $b^n$이 커질수록 $\cos\bigl(b^n \pi x\bigr)$ 항이 매우 빠르게 진동합니다. 이때 $a^n$이 줄어드는 속도와 $b^n$이 커지는 속도를 적절히 조절하면, 함수가 미세하게 계속 ‘요동’하며 기울기를 일정하게 잡아줄 구간이 전혀 없게 됩니다.

• $\varepsilon$-$\delta$ 정의를 통한 엄밀한 증명
  바이어슈트라스는 코시(Cauchy)·볼차노(Bolzano) 등 선행 연구자들의 아이디어를 발전시켜 $\varepsilon$-$\delta$ 개념을 엄밀히 사용했습니다. “만약 이 지점에서 미분 계수가 존재한다”고 가정하면, 급수의 무한 진동으로 인해 모순이 발생함을 보이는 방식입니다.

• 프랙탈적 성격
  이 함수는 ‘확대해 봐도 계속 비슷한 톱니 형태가 등장한다’는 측면에서, 이후 프랙탈 이론이 발전하는 데 큰 영감을 주었습니다.

---

3. 이 함수가 가져온 파장: 미적분의 기초 재정비

3.1 연속성과 미분 가능성의 분리

• 기존에는 “연속 → 거의 모든 곳에서 미분 가능”이라는 직관적 믿음이 있었습니다.
• 바이어슈트라스 함수는 “연속이지만 완전히 미분 불가능한” 구체적 예시를 제시함으로써, 이 믿음을 철저히 깨부쉈습니다.

3.2 해석학(Analysis)의 발전

• 바이어슈트라스의 논리는 미적분에 대한 $\varepsilon$-$\delta$ 정의를 한층 더 체계화하고 엄밀하게 만들었습니다.
• 이를 계기로 미적분학에서 쓰이는 극한, 연속, 미분, 적분 개념 모두를 다시금 정리하는 흐름이 촉발되었습니다.
• 그 결과 오늘날 배우는 현대 해석학(analysis)의 초석이 다져졌고, 더 이상 “직관”만으로 미적분을 다루지 않게 되었습니다.

3.3 “병적” 예시가 낳은 응용

• 브라운 운동: 입자가 무작위로 요동하는 연속적 움직임을 모델링할 때, ‘연속적이되 매끄럽지 않은’ 함수가 매우 유용합니다.
• 금융 시장 모델: 시장 가격 변동 역시 짧은 시간 간격으로 보면 불규칙한 패턴을 보이므로, 바이어슈트라스류의 함수가 한 예시가 될 수 있습니다.
• 복잡계 모델링: 복잡계 분야(경제, 생물, 네트워크 등)에서도, 단지 연속하기만 한 것이 아니라 “수없이 많은 작은 진동”이 있는 현상을 분석할 때 도움이 됩니다.

---

4. 마무리: ‘괴물’의 역설적 아름다움

바이어슈트라스 함수는 수학자들의 눈에는 초기에 “괴물” 같아 보였습니다. 그러나 “괴물”일수록 기초 이론을 더욱 단단히 세우게 만들었다는 점에서, 이 함수는 역사적 전환점이 되었습니다.

• 엄밀함의 중요성: “병적” 예시 하나가 미적분 이론 전반을 재검토하고 보다 엄밀한 학문 체계를 마련하도록 이끌었습니다.
• 수학의 무한한 가능성: 연속과 미분 가능성 사이에 우리가 미처 상상하지 못한 영역이 열려 있음을 일깨워주었고, 프랙탈, 비선형동역학 등 후속 연구에 큰 자극이 되었습니다.
• 응용으로의 확장: 처음에는 “학문적 장난감”처럼 보였던 함수가, 나중에는 다양한 실제 현상을 모델링하는 데 유용하게 쓰이게 되었습니다.

오늘날에도 바이어슈트라스 함수는 학생들과 연구자들에게 “함수의 기묘함”을 가르치는 좋은 예시입니다. 수학사의 중요한 이정표로 남아 있는 이 함수는, 동시에 “연속적이되 전혀 매끄럽지 않은” 존재가 현실 문제를 이해하는 데도 얼마나 의미가 있는지 보여주는 훌륭한 사례이기도 하죠.

---

참고

• Quanta Magazine: The Jagged, Monstrous Function That Broke Calculus

#바이어슈트라스 #Weierstrass #연속이지만미분불가능 #병적함수 #미적분 #해석학 #프랙탈 #수학사