물리학과 첨단기술 MARCH 2020 33

벡터 이야기, 사원수로부터 힐버트 공간까지김 재 영

저자 약력

김재영 박사는 서울대학교 물리학과에서 물리학

기초론 전공으로 박사학위를 받았다. 독일 막스플

랑크 과학사연구소 초빙교수 등을 거쳐 현재

KAIST 부설 한국과학영재학교에서 물리철학 및

물리학사를 가르치고 있다. 공저로 『정보혁명』,

『양자, 정보, 생명』, 『뉴턴과 아인슈타인』 등이 있

고, 공역으로 『아인슈타인의 시계, 푸앵카레의 지

도』, 『에너지, 힘, 물질』 등이 있다.

(zyghim2@kaist.ac.kr)

그림 2. 윌리엄 로원 해밀턴. (출처: Wikimedia

Commons)

물리학을 처음 배울 때 만나는 수학적

개념 중 ‘벡터’가 있다. 크기와 방향을 가

진 양으로 정의된다고 할 때만 해도 그

럭저럭 납득이 가는 듯하다. 그러나 조금

뒤에는 크로네커 델타( ij)와 레비-치비타

엡실론( ijk)을 만나서 영문도 모른 채 계

산법에 익숙해지고 나면, 갑자기 모든 물

리량은 벡터나 스칼라로 표현된다는 말

이 불쑥 나오고, 어느새 그것을 전혀 의

심하지 않게 된다. 물론 어느 정도 지나

텐서나 스피너라는 새로운 용어를 접하

게 되면서, 모든 물리량이 벡터 아니면

스칼라는 아님을 알게 되지만, 그 무렵이

면 이미 벡터라는 말이 익숙해져 있기

마련이다. 그런데 물리학에서 늘 사용하

는 그 벡터라는 개념은 어떻게 생겨났으

며 누가 그것을 만들었을까? 게다가 양

자역학에서는 파동함수도 일종의 벡터라

고 하는데 어쩌다가 그렇게 된 것일까?

‘벡터’라는 말을 처음 만들고 그 개념

을 다듬어 간 사람은 아일랜드의 수학자

윌리엄 로원 해밀턴(William Rowan

Hamilton, 1805‒1865)이다. 해밀턴은

광학과 역학에서 중요한 업적을 남겼다.

특히 뉴턴 역학과 라그랑주 역학을 수학

적으로 재구성하여 사실상 새로운 이론

체계로 발전시킨 해밀턴 역학만으로도

물리학의 역사에서 가장 중요한 업적을

남긴 것으로 평가된다. 그러나 해밀턴은

그림 1. 해밀턴이 사원수를 발견했던 더블린의 브

룸 다리의 석각. (출처: Wikimedia Commons)

언제나 자신을 수학자로 생각하고 있었

으며, 생애의 마지막 20여 년은 사원수

(quaternion)에 대한 연구에 몰두했다.

‘사원수’라는 낯선 수학적 개념이 처음

발표된 것은 1843년 11월 13일 왕립

아일랜드 학술원(Royal Irish Academy)

에서였다. 해밀턴은 아들에게 보낸 편지

에서 매우 분명하게 1843년 10월 16일

에 이 개념을 생각해 냈음을 말하고 있

다. 그 날 바로 왕립 학술원에 연락해서

다음 모임에서 발표를 하겠다고 말했는

데, 이 내용은 “사원수 이론과 연결된 새

로운 종류의 허수 양”이란 제목으로 발

표되었고, 이듬해에 학술지에 지면으로

실렸다.

사원수는 복소수 개념을 확장한 것으

로서, (22

2 1)와 같이 네 개의 실수로

이루어진 새로운 수이다. 해밀턴은 1844

년 11월 11일에 왕립 아일랜드 학술원

에서 발표한 논문 “사원수론”에서 역사상

처음으로 ‘벡터’라는 용어를 제안했다. 사

원수를 라 쓸 때

와 같이 복소수의 허수 부분에 대

응하는 부분을 한꺼번에 ‘벡터 부분 vec-

tor part’ 또는 ‘벡터 vector’라 부르고, 나머

지를 ‘실수 부분 real part’이라 부르겠다

고 말하고 있다. 이 내용이 지면에 실린 것

은 1847년이었다. 1846년 Philosophical

Magazine에 실린 논문에서는 ‘실수 부분’

이란 용어 대신 ‘스칼라 부분 scalar

part’이라는 용어를 제안했다.

이것이 바로 역사상 처음으로 ‘벡터’와

‘스칼라’라는 용어가 도입된 시점이다. 프

랑스에서 이미 라플라스, 몽주, 코시 등

이 rayon vecteur(영어로는 radius-vec-

tor로 번역)라는 용어가 사용되긴 했지만,

이것은 공간 안의 한 점 A에서 다른 점

B로 사선을 그었을 때 그 사선 AB로서

지금의 지름벡터를 가리키는 이름이었다.

해밀턴은 이승을 떠날 때까지 자신이

만들어낸 사원수의 성질을 탐구하고 이

를 이용하여 기존의 이론과 논의를 다시

쓸 수 있는 언어로 발전시키려 애썼지만,

이를 순수수학의 영역에 국한시켰고 물

리학으로 확장하려는 시도는 거의 하지

않았다. 해밀턴의 사원수 개념을 적극적

으로 받아들이고 이를 더 확장하면서 미

적분학과 함수 이론으로 넓힌 사람 중

하나는 피터 거쓰리 타이트(Peter Guthrie

Tait, 1831‒1901)이다. 타이트는 제임스

클러크 맥스웰(James Clerk Maxwell,

물리학과 첨단기술 MARCH 202034

그림 3. 맥스웰의 <전자기장의 동역학 이론>(1864)

에 있는 맥스웰 방정식.

1831-1879)과 동갑내기이고, 동향 출신

으로 어릴 적부터 같은 학교를 다녔다.

타이트는 학문연구 초기부터 해밀턴의

사원수에 깊이 빠져들었고, 사원수와 관

련된 8권의 저서를 집필했다. 타이트는

22권의 책을 쓰고 365편의 논문을 발표

했는데, 논문의 7할 이상이 사원수에 관

한 것이었다. 특히 타이트는 해밀턴과 달

리 사원수를 동역학 이론에 적용하기 위

해 애썼고 사원수를 사용한 미적분학 이

론을 체계적으로 만들어갔다.

타이트는 특히

∇

라는 기호로 나타내는 미분연산자의 성

질을 깊이 탐구했다. 이 연산자를 처음

도입한 것은 해밀턴이었는데, 해밀턴은

삼각형을 왼쪽으로 향하게 그린 모양을

썼다. 이 미분연산자의 이름이 ‘나블라’가

된 것은 타이트를 통해서였다. 아시리아

의 하프 모양 악기인 나블라를 닮았기

때문이었다.

맥스웰이 해밀턴의 사원수를 배운 것

도 타이트를 통해서였다. 흔히 맥스웰이

전기와 자기에 관한 일반 방정식을 죄다

성분으로 쓰는 바람에 지금처럼 4개의

깔끔한 모습이 아니라 20개씩이나 되는

잡다한 모습이었다고들 하지만, 이 말은

사실과 좀 다르다. 1864년에 발표된 논

문 <전자기장의 동역학 이론 A dynam-

ical theory of the electromagnetic

field>에서는 20개의 물리량에 대한 20

개의 방정식을 늘어놓은 것이 사실이다.

그러나 1870년 무렵부터 타이트로부터

사원수를 배운 맥스웰은 물리량을 수학

적으로 나타낼 때 사원수가 가장 적합하

다고 말하곤 했다.

해밀턴의 사원수 개념을 바탕에 두고

물리량을 스칼라 양과 벡터 양으로 구분

하자고 처음 제안한 것도 다름 아니라

맥스웰이다. 이 내용은 영국 런던수학회

에서 발표했고, 1871년에 런던수학회보

에 게재되었다. 이 논문에서 맥스웰은 소

위 ‘해밀턴 연산자’ ∇의 중요성을 강조

하면서 스칼라 함수 에 작용한 결과

∇는 벡터임을 설명하고, 이를 ‘Slope’

라 부를 것을 제안했다. 마찬가지로 벡터

함수 에 대하여

∇ ∇∇

임을 보인 뒤에,

∇

를 ‘Convergence’라 부르고 나머지 부분

인 ∇를 ‘Curl’ 또는 ‘Version’이라

부를 것을 제안했다. Curl 대신 Rotation,

Whirl, Twirl, Twist 등의 이름도 고려해

보았지만 적절하지 않다는 설명도 덧붙

이고 있다.

맥스웰은 1873년에 출판된 <전기자기

론 Treatise on Electricity and Magnet-

ism>에서 사원수와 이를 바탕으로 한 미

분연산자를 사용하여 잡다해 보이는 전

기-자기의 일반 방정식을 깔끔하게 정리

하여 제시했다. 흔히 알려진 것과 달리

이 저서는 전체적으로 사원수를 체계적

으로 도입하고 있으며, 직각좌표계 성분

으로 표현되는 내용과 사원수로 표현되

는 내용이 이원적으로 서술되어 있다. 맥

스웰은 사원수를 나타내기 위해 독일 고

딕 문자를 사용했다. 이 사원수들은 실수

부분이 없고 벡터 부분만을 나타내므로

지금의 벡터 표현과 크게 다르지 않다.

지금 정착된 네 개의 방정식 외에 전기

와 자기에 관련된 방정식을 모두 포함하

고 있기 때문에, 여전히 복잡해 보이긴

하지만, 사원수를 도입함으로써 전기와

자기의 일반방정식이 전혀 새로운 모습

을 갖추게 된 것이다.

사원수의 가장 큰 단점은 네 성분을

모두 가지고 다니다 보니까 계산이 더

복잡하다는 점과 특히 실수 부분에서 나

타나는 음의 부호였다. 이런 사원수 이론

의 단점을 극복하기 위해 새로운 방식을

제안한 사람이 조사이어 윌러드 기브스

(Josiah Willard Gibbs, 1839-1903)이

다. 기브스는 맥스웰과 볼츠만이 체계화

한 기체분자운동론과 독립적으로 통계역

학의 이론적 토대를 마련한 바로 그 물

리학자이다. 기브스는 과학의 무대가 온

통 유럽이던 시절에 미국인으로 미국에

터를 잡고 있던 물리학자 내지 수학자이

다. 기브스는 아버지가 교수로 있던 예일

대에서 수학을 배우고 공학 전공으로 24

살에 박사학위를 받았다. 27살에 유럽으

로 떠나 3년 동안 파리, 베를린, 하이델

베르크 등지에서 사람들을 만나 공부를

물리학과 첨단기술 MARCH 2020 35

그림 4. 맥스웰의 <전기자기론>(1873)에 있는 맥스웰 방정식.

더 하고 되돌아온 뒤, 32살이던 1871년

에 예일대 수리물리학 교수가 되었다.

기브스가 사원수에 관심을 갖게 된 것

은 1873년에 출판된 맥스웰의 <전기자

기론> 덕분이었다. 맥스웰의 저서 전반

에 걸쳐 사원수가 깊이 사용되는 것을

보고 강한 인상을 받고 나서, 타이트와

해밀턴의 저서를 더 파고들었다. 사원수

를 고집하면서 스칼라 부분과 벡터 부분

을 늘 함께 가지고 다니는 것이 기브스

에게는 여러 면에서 번거롭게 느껴졌다.

과감하게 사원수라는 개념 자체를 버리

고 그냥 스칼라와 벡터를 나눈 뒤에 벡

터에 대해서만 이야기하면 훨씬 더 간명

하다는 것을 알아챘다. 그래서 사원수 대

신 벡터만을 가지고 대수적 연산과 미적

분학(해석학)까지 전개하는 이론을 정리

하여 1881년에 <벡터해석 개론 Ele-

ments of Vector Analysis>라는 제목을

달아 인쇄하여 학생들을 가르치는 데 쓰

기 시작했으며, 거의 매년 이와 관련된

강의를 개설했다. 이 강의록을 확장하고

보완하여 된 부분을 1884년에 인쇄한

뒤에, 유명한 수학자와 물리학자 130여

명에게 인쇄본을 보냈다.

기브스는 가령 두 벡터

, ′ ′ ′에 대해

⋅ ′ ′ ′× ′ ′ ′ ′ ′ ′와 같이 두 가지 곱을 도입했다. 이를

각각 내적(안쪽곱, 스칼라곱), 외적(바깥

곱, 벡터곱)이라고 불렀는데, 이 둘을 더

하는 경우는 없었다. 이는

′ ′ ′ ′ ′ ′ ′ ′ ′

와 같이 스칼라 부분과 벡터 부분을 한

꺼번에 다루는 사원수 연산과 대비된다.

만일 두 사원수의 스칼라 부분(실수 부

분)이 0이 아니라면, 그 곱은 더 복잡한

모습이 된다. 가령

,

이면

이다.

기브스의 정의는 스칼라 부분과 벡터

부분을 더하는 일이 없기 때문에, 타이트

의 정의에서 스칼라 부분에 항상 나타나

는 음의 부호가 사라져서 혼동을 피하고,

복잡한 연산들을 간결하게 정리할 수 있

었다.

거의 같은 시기에 영국의 올리버 헤비

사이드(Oliver Heaviside, 1850-1925)도

사원수 대신 벡터로 전향해 가는 길을

밟았다. 1882년 11월에 The Electricians

에 실린 “자기력과 전류의 관계”라는 제

목의 논문에서 헤비사이드는 다짜고짜

“벡터 또는 방향이 있는 양 B가 다른 벡

터 C와 임의의 닫힌 곡선 둘레에서 B의

선적분이 그 곡선을 지나가는 C의 적분

과 같으면, 벡터 C를 벡터 B의 curl이라

고 정의한다.”라고 말한 뒤에, 이 정의를

사용하여 “전류 ×(자기력의 curl)”

이라는 수식을 사용할 것이라고 적고 있

다.

헤비사이드는 15살에 문법학교를 마친

뒤에는 정규교육을 전혀 받지 못했지만,

이모부 찰스 휘트스톤의 적극적인 지원

을 받아 전신회사에 취직하고 난 뒤 전

기와 관련된 공부를 혼자 해 나가고 있

었다. 1874년에 만난 맥스웰의 <전기자

기론>은 간단한 대수와 삼각함수밖에 배

물리학과 첨단기술 MARCH 202036

그림 5. 헤비사이드의 “On electromagnetic waves”

(1888)에 있는 맥스웰 방정식

그림 6. 푀플의 <전기이론 입문> (1894).

운 적이 없는 헤비사이드에게 난공불락

의 요새처럼 보였지만, 놀랍게도 헤비사

이드는 몇 년에 걸쳐 이 책을 샅샅이 공

부했다. 1883년 The Electricians에 실린

논문 “몇 가지 정전기 및 자기 관계식”에

서는 “을 정전기력이라 하고 를 전기

의 부피밀도라 하면, conv

또는 div가 성립하며, 힘의

성분 로 쓰면

가 된다.”라는 문장이 있다. 여기에서

conv는 맥스웰이 정의한 Convergence의

약호이며, div는 conv에 음의 부호를 붙

인 Divergence로서 헤비사이드가 도입한

용어이다.

여기에서 벡터라 부른 것은 다름 아니

라 해밀턴의 사원수에서 실수 부분(스칼

라 부분)을 뺀 나머지 부분을 가리키는

용어였고, 헤비사이드는 아직 사원수 학

파에 속해 있었다. 그러나 헤비사이드는

1885년 무렵부터 사원수 이론이 형이상

학적인 사변에 속하며 너무 복잡하다고

비판하면서, 실수(스칼라) 부분과 벡터

부분을 완전히 분리시켜야 한다고 주장

하기 시작했다. 1885년 Philosophical

Magazine에 실린 “전자기 파면에 관하

여”에는 헤비사이드 자신이 새롭게 정리

한 벡터이론이 요약되어 있다. 여기에서

헤비사이드는 두 벡터 A, B의 스칼라

곱 AB와 벡터 곱 VAB을 각각

AB ,

VAB i

j

k

으로 정의하고, ‘단위 벡터’ i, j, k는 다

음과 같은 조건을 충족시킨다고 말하고

있다.

ii jjkk1, ij jkki0,

Vijk, Vjk i, Vki j

사원수의 경우에는 2221

인 것을 생각하면, 헤비사이드가 이제 사

원수 이론과 거리를 두고 있음을 알 수

있다.

헤비사이드는 직각좌표계의 세 성분을

모두 늘어놓는 전통적인 방식이 매우 불

편할 뿐 아니라 게다가 구면좌표계 등으

로 바꾸어 표현하면 전자기 현상과 관련

된 이론적 서술이 너무나 복잡해짐을 강

조했다. 매우 실용적인 문제를 현장에서

만나고 있던 헤비사이드로서는 구면좌표

계나 원통좌표계를 일상적으로 써야 했

다. 그러나 성분 표시방식을 대치한다던

사원수도 그 나름의 복잡함을 더했기 때

문에, 결국 헤비사이드는 사원수 이론을

단순화하고 불필요한 부분을 제거한 벡

터 이론을 새롭게 제시했던 것이었다.

그는 해밀턴, 타이트, 기브스가 벡터를

그리스 문자로 나타낸 것과 맥스웰이 독

일 고딕체로 나타낸 것이 모두 부적절함

을 주장한 뒤에, 굵은 글씨에서 쓰던 클

러랜던 글꼴로 벡터를 표시하는 것이 가장

좋다고 제안했다. 1885년 The Electricians

에 실린 논문 “전자기 유도와 그 전달”에

서는 맥스웰이 정리한 전기와 자기의 일

반방정식에서 사원수 개념을 제거하고

벡터만을 써서 맥스웰 방정식을 제시했

다. 흥미로운 점은 헤비사이드가 기브스

의 <벡터해석 개론>을 알게 된 것은

1888년이었고 그 전까지 기브스의 작업

을 전혀 알지 못했지만 정리된 결과가

매우 유사하다는 사실이다. 기브스는 벡

터해석의 수학적 정립에 치중한 반면, 헤

비사이드는 수학이론의 세부사항보다는

전자기학 연구의 도구로 벡터해석을 깊

이 파고들었다.

이렇게 해밀턴-타이트-맥스웰의 사원수

이론이 기브스-헤비사이드의 벡터 이론으

로 대치되어 가는 과정에서 중요한 역할

을 한 사람이 독일의 물리학자 아우구스

트 푀플(August Föppl, 1854-1924)이다.

1894년에 출판된 <맥스웰의 전기이론

입문 Einführung in die Maxwell'sche

Theorie der Elektricität>에서 푀플은 헤

비사이드의 벡터 이론을 종합하고 체계

화하여 책의 앞부분에 상세하게 해설했

다. 이 책은 1912년에 제4판이 나오기까

지 독일어권에서 전자기학과 벡터 이론

의 보급에 큰 역할을 했다. 특히 아인슈

타인의 1905년 논문 제목 “움직이는 물

물리학과 첨단기술 MARCH 2020 37

그림 7. 그라스만의 <선형 확장이론> (1844). 그림 8. 페아노의 <기학해석학> (1888).

체의 전기역학”은 푀플의 책에서 큰 영

향을 받았다. 푀플의 책 이후 이와 비슷

한 성격의 책들이 십여 권 이상 출판되

면서, 사원수의 색깔을 뺀 벡터해석은 물

리학자와 응용수학자의 기본 언어로 자

리를 잡아갔다.

그렇다면, 이렇게 점점 영향력을 넓혀

간 벡터는 벡터 공간과 어떤 관계일까?

헤비사이드는 책의 서문에서 지나가듯

그라스만이라는 이름을 언급했는데, 기브

스는 그라스만의 저서를 여러 차례 인용

하면서 그라스만을 벡터 이론의 선구자

로 직접 거명했다. 헤르만 그라스만

(Hermann Günther Graßmann, 1809-

1877)은 해밀턴이 사원수 개념을 처음

생각해 낸 이듬해인 1844년에 <선형 확

장 이론, 수학의 새로운 분야 Die lineale

Ausdehnungslehre, ein neuer Zweig

der Mathematik>라는 책을 냈다. 이 책

은 선형대수학의 근간을 마련하고 비가

환 기하대수의 기반을 놓은 매우 선구적

인 이론을 담고 있었다.

그라스만은 독일 자연철학과 변증법

철학의 영향을 강하게 받고 있었으며, 기

하학과 대수학의 변증법적 통합을 통해

완전히 새로운 종류의 수학을 창안해 내

려 했다. 그러나 대학에서 철학과 언어학

을 전공한 그라스만은 수학을 독학으로

공부했고 대학에 적을 두지 않았다. 그의

문체는 당시 수학책들의 문체와는 확연

하게 달랐다. 또 라틴어 어원이 아닌 독

일어를 사용하여 새로운 용어를 만들어

냈다. 이 책이 나왔을 무렵 이 저서를

이해하고 그 의의를 알아낼 수 있던 수

학자는 별로 없었다. 이 책이 너무 장황

하고 철학적이라서 도무지 읽을 수 없다

는 비판을 의식하여 1862년에 낸 개정

판 <(완전하고 더 강한 형식으로 기초를

갖춘) 확장이론 Die Ausdehnungslehre.

Vollständig und in strenger Form

begründet>은 책 전체를 정의와 정리와

증명의 체계로 서술했지만, 독자들은 더

무관심했다.

그라스만은 ‘n개의 계단이 있는 영역

(Gebiet n-ter Stufevector)[벡터 공간]’에

있는 ‘확장적인 양(extensive Größe)[벡터]’

을 ‘단위들의 계(System von Einheiten)

[기저]’로 나타낼 수 있다는 급진적인 아

이디어를 제시했다. 그는 이 ‘확장적 양’

의 덧셈과 곱셈 등을 정교하게 정의하고

처음의 원소로부터 다른 원소를 생성하

는 규칙을 제시하고 이러한 일련의 논의

를 통해 지금 우리가 알고 있는 선형대

수학의 주요 정리들을 얻어냈다. 그러면

서도 가령 직선이나 점과 같은 기하학적

개념을 사용하지 않았다. ‘영역의 계단

수(Stufenzahl eines Gebiets)[차원]’는

아무 자연수나 허용되었다. 3차원 유클

리드 공간을 기정사실로 받아들이고, 기

껏해야 사원수를 통해 4차원 공간의 가

능성을 모색하던 시절에 임의의 n차원

공간을 말하고 있었고, 기하학과 대수학

이 서로 맞물려 전혀 새로운 이야기로

펼쳐지고 있었다. 게다가 한술 더 떠서

여러 ‘확장적 양’들로부터 쐐기 모양의

곱(∧)을 써서 ‘영역의 계단 수’가 많아진

양을 만들어내는 새로운 대수학이 상세

하게 논의되었다. 직선과 직선을 곱하면

평면이 되고, 평면과 평면을 곱하여 새로

운 대상을 만들어낼 수 있다는 것이다.

1888년 쥐세페 페아노(Giuseppe Peano,

1858-1932)는 <그라스만의 확장이론에

따른 기하해석학 Calcolo geometrico

secondo l'Ausdehnungslehre di H.

Grassmann>에서 ‘선형 계(sistema lineare)’

라고 이름붙인 벡터 공간의 공리라 할

수 있는 것을 처음 제안했다. 또 ‘일차

변환(operazione distributive)’의 개념을

정립했다. 이탈리아에서는 페아노의 영향

을 받아 체사레 부랄리-포르티(Cesare

Burali-Forti, 1861-1931)나 살바토레 핀

케를레(Salvatore Pincherle, 1853-1936)

등이 ‘선형 계’ 이론을 함수해석학으로 발

전시켰다.

지금과 같은 의미로 벡터 공간의 이론

을 정립한 것은 헤르만 바일(Hermann

Weyl, 1885-1955)이었다. 바일은 1918

년에 출판된 <공간, 시간, 물질: 일반상

대성이론 강의 Raum. Zeit. Materie.

물리학과 첨단기술 MARCH 202038

그림 9. 바일의 Raum. Zeit. Materie (1918)에 있

는 벡터공간의 정의.

Vorlesungen über allgemeine Relativitäts-

theorie>에서 그라스만의 ‘확장적 양’을

‘벡터 Vektor’로 불렀다. 바일은 일반상대

성이론과 리만기하학에 따라 시간과 공

간을 다루기 위해 그라스만을 인용하면

서 벡터 공간을 다룬 것이었다.

수학계에서 벡터 공간이 제 자리를 잡

게 된 것은 폴란드의 수학자 스테판 바

나흐(Stefan Banach, 1892-1945)와 미국

의 수학자 노버트 위너(Norbert Wiener,

1894-1964)와 오스트리아의 수학자 한

스 한(Hans Hahn, 1879-1934)을 통해

서였다. 바나흐는 박사학위논문 “추상 집

합에서의 연산과 이를 적분방정식에 응

용하는 것에 관하여”(1920)에서 노음이

있는 벡터 공간을 가장 일반적인 방식으

로 정의하고 그 성질을 밝혔다. 바나흐는

노음이 있는 벡터 공간을 ‘추상집합(en-

semble abstrait)’이라 불렀는데, 그 구체

적인 사례로 벡터, 그라스만의 일반형식,

사원수, 복소수 등을 들었다. 위너는

1920년 스트라스부르에서 열린 세계수

학자대회에서 ‘벡터계 vector system’라

는 이름으로 벡터 공간의 공리체계를

발표했다. 한은 1922년에 ‘선형 공간

linearer Raum’의 이론을 발표했다.

벡터 공간이 물리학계에서 다시 다루

어지게 된 것은 양자역학 때문이었다. 하

이젠베르크, 보른, 요르단의 행렬역학과

슈뢰딩거의 파동역학과 디랙의 변환이론

이 새롭게 등장하고 있던 무렵, 독일 괴

팅겐 대학의 다비트 힐버트는 1926/27

년 겨울학기에 양자역학의 수학적 기초

에 관한 세미나 수업을 개설했다. 세미나

에서 다룬 내용을 로타르 노르트하임

(Lothar Wolfgang Nordheim, 1899-1985)

이 정리하고, 요한 폰노이만이 함수해석

학 내용을 덧붙여 독일수학회지 Annalen

der Mathematik에 발표한 것이 1927년

4월이다. 힐버트는 제곱적분가능한 함수

들의 집합의 성질을 연구해 오고 있었고,

폰노이만은 새롭게 등장한 요르단과 디

랙의 양자역학의 수학적 토대가 거기에

잘 어울린다는 것을 알아챘다. 특히 폰노

이만은 원자의 상태를 나타내는 수학적

대상들이 벡터 공간을 이룬다는 놀라운

아이디어를 생각해 냈다. 파동함수나 무

한차원 행렬을 벡터 공간에 포함시키기

위해서는 완비성의 조건을 비롯하여 해

결해야 할 문제가 더 있었지만, 여하간

내적이 있는 벡터 공간이 그러한 수학적

서술에 알맞다는 것을 밝힌 것이다. 이것

이 ‘힐버트 공간’의 탄생이다. 폰노이만은

1927년에 괴팅겐 수학 및 물리학회 학

술대회에서 “양자역학의 확률이론적 구

조”와 “양자역학의 수학적 기초”를 발표

했다. 1930년에 발표된 “에르미트성 함

수연산자의 일반 고유값이론”과 1932년

에 출판된 저서 <양자역학의 수학적 기

초>를 통해 내적 벡터공간은 양자역학의

기본언어로 굳게 자리잡게 되었다.

1939년 이 이야기의 반전이 일어난다.

폴 디랙은 그해 4월 <양자역학의 새로운

기호법>이란 제목의 논문을 Mathematical

Proceedings of the Cambridge Philo-

sophical Society에 투고했다. 양자역학에

서 상태를 나타내는 힐버트 공간의 벡터

를 그리스 문자 나 로 나타내는 대

신 ⟩나 ⟨ 로 나타내자고 제안하면서,

벡터라는 말 대신 ‘브라 bra’와 ‘켓 ket’

을 쓰자고 제안했다. 간신히 물리학자의

언어 속에 들어온 벡터의 의미가 아름답

게 확장되기 시작했다.

물리학에서 새로운 현상을 설명하고

새로운 이론을 창조해 가는 과정에서 새

로운 기호법을 만들고 그 기호를 일상의

언어로 사용하는 것이 매우 중요하다. 전

통적인 데카르트 좌표계 성분 표시를 넘

어서는 해밀턴의 ‘벡터’는 사원수라는 거

창한 외양에 가려 일상의 언어로 확장하

지 못하고 있었지만, 기브스와 헤비사이

드 덕분에 깔끔하고 간결한 언어로 재탄

생했다. 그라스만의 탁월한 창의성이 만

들어낸 선형대수학과 벡터공간이라는 멋

진 언어가 이 간결한 언어와 만나 세계

를 이해하고 알아가는 과정의 멋진 언어

로 정착한 것은 지난 200년간 인류의

유산 중에서도 어쩌면 가장 거대하고 심

원한 것이 아닐까?