양재현 서울대학교 수학과 졸업. 동 대학원 이학석사 미국 캘리포니아 대학(U.C. Be rk e le y ) 이학박사 미국 하버드 대학 객원교수 독일 하이델베르크 대학 초청교수 독일 막스 플랑크 수학연구소 초청교수 일본 교토 대학 수리해석연구소 초빙교수 현 재 인하대학교 수학과 교수 저 서 『 미분기하학 입문 』 『 벡터속 이론 』 『 선형대수학 』 『 20 세기 수학자들과의 만남 』 등과 보형 형 식과 관계된 다수의 논문

Lie 군의 표현론

양재현 지음 미i!°ii 시

Lie 군의 표현론

양재현 지음 미L.°ii 시

머리말 Lie 군 의 표현론 의 연 구 영역은 엄청나게 방대하다. 실제로 Lie 군 의 표현산은 수론 ( 북 히 보형형식 론 ) , 수리물리 , 미분기하학, 해석학, 대 수 기하 학 등 의 여러 분 야와 아주 밀 접하게 연관되어 있다. Lie 군 의 표현론은 1896 년 경 F. G. Froben i us(1849-1917) 에 의해 유 한가환군의 지 표 에 관해 연 구 된 적이 있지만 , 대체로 E. Carta n (1869- 1951) 과 H. We y l(1885-1955) 에 의 한 반단순 Lie 군의 유한차원의 표 현론 연 구로 부터 시작되었다 . 1927 년에 발간된 F. Pe t er 와 We y l 의 논 문 [20] 은 이 후 Lie 군 의 표 현 론 연구에 지 대 한 영 향을 미 쳤다. We y l 은 긴밀 L i e 군의 기약표현은유한차원이라는사실을보이고소위 ,We y l 지 표공 식 을 발 견하여 긴밀 Lie 군의 표현을 명확하게 기술하였다. 비 긴밀 Lie 군 의 무한차원 표현론의 연구는 1947 년경에 V. Bar gm an 의 논문 [1] 에서 시작되었다고 알려져 있다. 그는 특별 선형군 SL(2, 惡)의 표현 에 관해 연구하여 이의 유니터리 쌍대를 자세하게 기술하였다. 그후 I. M. Gelfa n d(1913 -) 학파와 Har i sh-Chandra(192 3- 1983) 에 의해 수십년간 비긴밀 반단순 및 reducti ve Lie 군의 표현론에 대 한 연구가 심도있게 진행되어 왔다. 이들은 Lie 군의 표현론에 방 대한 업적을 남겼으며, 초창기에는 Plancherel 공식과유니터리 쌍대 룰 구체적으로 구했는데, 이 시기에는 R. Godement( 1 921-), G. W. Mackey (1 916 -), F. I. Mautn e r(1921-), I. E. Sega 1 (1918 -) 둥의 수학 자들도 이 분야에 적지않은 공헌을 하였다. 1950 년경 Gelfa n d 학파는 비긴밀 Lie 군의 표현론이 보형형식론과

밀접하게 연관되어 있음을 발견하여 Lie 군상의 보형형식 이 론 을 전 개하였다. 1960 년경에 Har i sh-Chandra 는 프린스턴 고등연구소로 옮 긴 후, A. Borel{1923-) 등과 함께 연구하는 동안 비긴밀 Lie 군의 이 산표현 (d i scre t e ser i es) 에 대 한 연구가 첨 점 (cusp ida l) 보형 형 식 의 연 구와 밀접한 관계가 있음을 인식하고 이산표현을 여러 각도에서 연 구하였댜 그는 무에서 유를 창조한 불가사의 한 수학자이 다. Gelfa n d 학파의 한 사람인 A. A. Ki ri l lov {1936-) 는 궤 적 방법 (orbit me t hod) 을 발견하여 Lie 군의 표현론이 심 폴 랙 틱 (s y m p lec ti c) 기하 와 연관되어 있음을 보였으며 멱영 Lie 군의 유니터리 쌍대 를 자세 히 기술하였다. A. Borel, A. Weil ( 1906-98), W. Scluuid ( 1943-) 등의 수학자는 Lie 군의 표현론을 대수기하학적인 관점에서 연구하여 소 위, Borel-Weil 정리를 정립하였댜 앞에서 말해 왔듯이 현재 Lie 군 의 표현론 연구는 크게 기하학적, 해석학적, 대수학적인 측면에서 수 행되고 있다. 이 책에서 필자는 지난 20 여 년간 여러 수학자들에 의하여 연구 되어 온 군표현론의 기하학적인 방법에 관해 간략하게 설명하고자 한다 . 편의상 G 를 반단순 Lie 군이라 하고 K 를 G 의 극대 긴밀부분 군이라 하자. G 의 표현 (1r,V) 가 주어졌을 때, 임의의 K 의 기약표 현 T 에 대하여 K 상에 겁플 국한한 1rlK 안에서의 T 의 중복수가 항상 유한이면 표현 T 를 허용표현이라고 한다. G의 기약인 유니터리 표 현은 허용표현임을 쉽게 알 수 있다. G 의 표현 (1r,V) 가 있어 임의 의 V 의 닫힌 불변 부분공간들의 증가 사슬이 유한지 점 에 서 그칠 때 겹룰 유한길 이 (fini t e l ength) 의 표현 이 라 한다. g o 를 G 의 Lie 대 수, g를 g o 의 복소화라고 하고 U( g)를 g의 보편포락대수 (un i versal envelop ing alge b ra) 라고 하자. M 은 U( g)상의 모듈로써 K 의 선형작용을 지니고 있으며 아래의 성 질 (1)-(4) 를 만족하면 M 을 Haris h -Chandra 모듈이 다라고 한댜 이

제 부 터 는 M 을 간단히 H-C 모듈이라고 부르기로 하자. (1) K 는 M 상에서 국소적으로 유한하게(l ocall y fini t ely ) 작용할 뿐 만 아니라 K 의 작용은 연속이다 (2) K- 중복 수 는 항상 유한이 댜 (3) g와 K 는 M 상에서 양립적으 로 작용한다 (4) M 은 U( g)상에서 유한하게 생성된댜 실제로 G 의 허용표현 (-rr , V) 가 주어 졌을 때, v 안에 있는 K- 유한백 터 들 의 집 합 은 H-C 모듈 이다 . 그래서 자연스럽게 {G 의 유한 길 이의 허용 표 현 들 } _RC_ {H-C 모듈들} (0.1) 와 같 은 공변 적 완 전 함수 (covar i an t exact f un cti on) 를 얻는다 . (0.1) 에 서 주 어지 는 함수 HC 는 일대일 대응은 아니지만 H-C 모듈들의 분류 에 관 하여 연구할 필 요성이 있다 . H-C 모듈 의 분 류 에는 Lang la nds 분류, Vog a n-Zuckerman 분류, Be il ins on-Bernste i n 분류 등 3 가지 방법이 있다. 이제부터는 이 세 분 류를 편의상 L 분 류 , V-Z 분류, B-B 분류로 쓰기로 한다. L 분류는 해석 적 요소인 H-C 모듈의 행 렬계수 (ma t r ix coe ffici en t)의 점근적 성 상 (behav i our) 을 이 용하여 분류하며 , V-Z 분류는 완전히 대수적 인 방 법으로 , B-B 분류는 대수기하학의 테크닉과 연관되어 있는 'D-모듈 의 이론을 이용하여 분류한다 . 겉으로는 상기의 세 가지 분류방법이 완전히 다르게 보이지만, 실제로는 이들이 아주 밀접하게 연관되어 있댜 이들은 한 가지의 공통점을 가지고 있는데, 보다 자세히 말하 면 , 각각의 경우기약 H-C 모듈은직접적으로기술되지는않지만간 접적으로 표준모듈과 표준표현을 통해 기술된다. 표준모듈들은 유 일 한 기 약부분모듈과 유일 한 기 약상(ir redu ci ble q uo ti en t)을 가지 는

데 , 이둘이 바로 우리가 찾고자 하는 기약 H-C 모듈이다. 역으로, 모 든 기약 H-C 모듈은 이와 같은 방법으로 얻을 수 있다. 중요한 사실 은 방금 언급한 유일한 기약부분모듈이나 기약상보다는 표준모듈을 더 구체적으로 다룰 수 있다는 것이다. 이러한 이유 로 표준모듈유 연 구하는 것이다. 하버드 대학의 교수인 W. Schm i d 와 그의 동료 수학자옵은 상기 의 세 분류 방법에서 나타나는 표준모듈들을 인의적인 방법웅 봉해 궤적을 사용하면서 기하학적으로 구성할 수 있음을 반견하였을 뿐 만 아니라 세 분류 방법 사이의 관계물 기하학적인 방법으로 선명하 였다. 필자는 Schm i d 의 논문 [25, 26] 을 인용하며 이 것에 관하여 좀 더 상세히 설명하겠다. G 를 반단순 실 Lie 군이라 하고 K 를 이의 극대 긴밀부분군이라 하자. X 를 G 의 복소화 G C 의 기다양체(fl a g var i e ty)라고 하자. 구체 적으로 말하면, X 는 아래의 (a)-(c) 의 성질을 만족하는 다양체이댜 (a) X 는 연결인 복소사영다양체이다 (b) GC 는 X 상에서 추이적으로(t rans iti vel y) 작용한댜 (c) X 는 위의 성질 (a) 와 (b) 에 대하여 보편적 (u ni versal) 이댜 여기서 (c) 의 성질은 추이적인 ¢:-작용을 지니고 있는 임의의 연결 인 복소 사영다양체가 X 의 CC-eq uiva ria n t 상(i ma g e) 이라는 것을 의 미한댜 X 의 자기동형군은 X 상에서 추이적으로작용하기 때문에 X 는매 끄러운 다양체 이 다. GC 가 X 상에서 작용하기 때문에 이 의 부분군은 당연히 X 상에서 작용한댜 Kc 를K 의 복소화라고하자.그러면 G 와 Kc 는 유한개의 궤적을 지니며 X 상에서 작용한다. 여기서 이들의 궤 적은 모두 X 안에서 국소적으로 닫혀 있음을 유의하라. G- 궤적은

각각 X 의 실해석적 부분다양체이고 Kc- 궤적은 각각 X 의 매끄러운 대수 부분다양체이다. K 으 궤적 Q를 고정시키자 . 이제, Q에 H-C 모듈을 대응시키고자 한다 먼저, X 상에 cc -e q u iv a ri an t 선속들의 집합이 존재한다는 사 실을 유의하라. 실제로 , 이 집합은 H2(X,Z) ~ zr( 단, r 은 G 의 계 수 (rank) 임)에 의하여 자연스럽게 매개화된다. G C - 작용을 미분하여 각 각 X 와 상기의 선속상의 g 오 작용을 얻을 수 있댜 £을 Q의 근방 상에 정의되 는 (g, G f: )- eq u iv a ria n t 해석적 선속이라고 하자. 이러한 선 속 은 항상 촌재한다. 이때, 우리는 HG(X, O(C))alg (0.2) 롤 정의한다. (0 . 2) 를 Q상의 선속 £의 국소적 코호몰로지군이라고 한댜 X 상의 g와 K 며 작용으로부터 국소적 코호몰로지군 (0.2) 상 의 g-작용과 K 오작용을 자연스럽 게 얻을 수 있댜 이 국소적 코호몰 로 지군이 다름 아닌 H-C 모듈이다. 지금까지 설명한 아이디어는 본 질 적 으로 Be ili nson 과 Bernste i n [ 2] 의 것 이 다. 정리 0.1 국소적 코호몰로지군 H;(X, Q(£))은 H-C 모듈이댜 만 약에 선속 £이 적절한 양치성 조건(p os itivity cond iti on) 을 만족한다 면 , (1) Hf (X , O(£))a19 = 0, 11p i-c := codim c Q이 고 (2) H託 (X, 0(£))al g는 유일한 기 약부분모듈 M(Q , £)을 포함한다 역으로, 임의의 기약 H-C 모듈은 유일한 데이터 (Q,£)이 존재하 여 M( Q,£)의 형태이다 Be ilins on 과 Berns t e i n 은 U( g)-모듈과 'D-모듈의 층 (she af)들의 카 테고리 사이에 동치관계가 있다는 사실로부터 상기의 정리를 증명

하고 있댜 실제로, 그들은 아주 명백하게 H-C 모듈을 구성하였을뿐 만 아니 라 분류하였 다. Sch mi d 는 B-B 분류를 다른 두 분류와 연 관시 키기 위해서 국소적 코호몰로지군의 용어 를 사용하면서 직접적으로 설명하고 있다 L 분류와 V-Z 분류에서의 표준모듈은 X 안에서 G- 궤적과 연관 되어 있다 D 를 G- 궤적이라 하고 £을 D 의 근방에서 정의된 (g, G)- eq uiva ria n t 해석적 선속이라 하자. 그러면, £의 해석적 절단 둘 의 층 O(£) 이 D 의 근방에서 정의되어 국소적 코호몰로지군 Hb(X, 0(£)) (0.3) 이 정의된다. G 는 D 상에서 작용하기 때문에 G 는 이 국소적 코호몰 로지군 (0.3) 상에서 작용한다. 이 국소적 코호몰로지군 위에 적당한 Frechet 위상이 존재하여 G 의 작용은 연속이다. 방금 언급한 G의 작 용은 (0.3) 상에서 G의 허용표현이 될 뿐만 아니라 유한길이 룰 갖고 기본 H-C 모듈의 극대 대역(g lob aliz a ti on) 과 일치한다. 게다가, 만약 에 선속 £이 G- 궤적 D에 대하여 음치성 조건 (ne ga ti v ity cond iti on) 을 가지고 있다고 가정하면, 어떤 정수 q = q (D) 가 존재하여 Ht (X , 0(£)) = O, 단, p i= q (0.4) 이댜 L 분해와 V-Z 분해에서 나타나는 표준모듈은 X 안의 어떤 G- 궤적과 관련되어 D 로부터 얻어지는 선속 £온 음치성 조건을 만족한 다. 두 국소적 코호몰로지 군 (0.2) 와 (0 .4)를 연관시 키 기 위 해서 는 K 오 궤적과 G- 궤적 사이의 연관성뿐만 아니라 두 궤적으로부터 얻을 수 있는 두 선속들간의 관계를 명백히 밝혀야 한다. Q가 K 오궤적이라 하고 D 를 G- 궤적이라 하자. 그러면, K := KC n G 는 Q n D 상에 서 작용한다. 만일, Q nD 가 한 개의 K- 궤적만으로 되어 있다면, 우

리 는 Q와 D 를 서로 쌍대이다라고 한다 . 그리고 K c - 궤적들의 집합 과 G- 궤 적들 의 집합에 반순서(p ar ti al order) 관계를 도입할 수 있다. Q 1 과 Q갑 K c - 궤적이고 Q 1 이 Q 2 의 폐포 豆 안에 포함되면 Q 1 은 Q 2 보다 작다라고 하면서 반순서를 정의할 수 있다 . 정리 0.2(Mats uki[ 1 9]) 쌍대성 (dua lity)은 순서를 뒤바꾸는 전단 사사상 {K 으 궤적 들 } ---+ {G- 궤적들}을 정의한댜 K C - 궤 적 Q와 G 제적 D 가 서로 쌍대라고 하자. Q의 근방상의 (g, Kc )- eq u iv a ria n t 선 속 £Q와 D 의 근방상의 (g, G)-e q uiva ria n t 선속 £ D 를 취 하자 두 선 속들을 Q nD 의 근방에 국한시킴으로써 (g, K)- eq u iv a ria n t 선 속 £t와 £$ 를 얻는댜 만약에, £8 = £$이면 £Q와 £꼬}Q와 D 사이에서 쌍대성에 의하여 동일하다라고 한다. 이 관계 는 이 두 종류의 선속 사이에 일대일 대응관계를 정의한다 . 이제부터 는 이 두 종류의 선속들이 쌍대성에 의해 동일하다고 가 정 하자. 국소적 코호몰로지군의 cup 곱은 짝(p a i r i n g) Ht (X , 0(£v)) x HQ -p (X , 안(£갑 ))al g 一 HDnQ ( X, nn ) (0.5) 을 제 공한댜 여 기 서 n := dim e X, nn 은 X 의 표준층 (cano ni cal shea f) 이댜 Dn Q는 K- 궤적이므로 X 의 닫힌 부분집합이댜 그러므로 우 리는아래의 사상 HDnQ ( x, n n ) 一 Hn (x ,nn) ~ C (0.6) 를얻는다 . 정 리 0.3( 쌍대성 정 리 [6, 27]) (0.5) 와 (0.6) 의 합성사상 HJ ;(X , 0(£,D)) x H; j-P( X, 硏園 ))al g 一 C (0.7)

는 H-C 모듈의 쌍대성을 정의한다 . 즉, H-C 모 듈 H1(X,O(C 미) 는 아래의 H-C 모듈 HC(HQ -1' (X, 011( 令)) .— HrP(x, 미令))안에 있 는 K- 유한벡터 들 의 벡터 공간 의 쌍대이다. 쌍대성을 무시하면 (0.2) 와 (0.3) 의 구성이 같 은 H-C 모듈 - 윤 재 공 한다는사실을상기의 정리는 말 해주고 있다. 이미 언 급했듯 이 세 분 류의 H-C 모듈은 서로 다 른 궤적과 연관되어 있다. 따라서 서 로 다 른 Kc- 궤적 들 사이의 관계뿐만 아니라 G 제 적둘 사이의 관계 를 규 명할필요가 있다. 정리 0.4 K c 제적 Q 1 과 다 른 K 오 궤 적 Q가 주어져 있다고 하자 . 만약에, 아래의 도표 Q U Q1 <-+ X Qi Q 4 4 Pl i C L OO Q。 <-+ X o Qo Qo 에 의하여 유도되는 Kc-eq uiva ria n t 화이버속 p : Q1 - Q(단, 화이 버는 C 임)가존재할 때 Q 1 은 Q보다 한 단계 위에 놓여 있다라고 한 댜 여기서, Q a 는 일반화된 기다양체 Xa 안의 Kc- 궤적이며 이의 역 은 Q와 Q 1 으로 이루어져 있댜 일반적으로 두 Kc- 궤적 Q’과 Q가 있 어 Q’이 한 단계 아래인 화이버속들의 사슬들에 의하여 Q에 이어질 때, Q’은 Q보다 한 단계 위에 놓여 있다라고 한댜 마찬가지로 X 안의 G- 궤적들에 대하여 위와 같이 정의할 수 있 댜 상기의 정의를 통해 K 오궤적들의 집합과 G- 궤적들의 집합상에 새로운 반순서를 도입할 수 있다. 이 새로운 반순서는 앞에서 언급

한 반순서보다 더 정교하다. 이 새로운 반순서에서 극소 G- 궤적을 Lang la nds 궤적이라 하고 극대 G- 궤적을 Zuckerman 궤적이라 한다. 닫힌 궤적의 근방상에 국소 코호몰로지군 (0.3) 을 취하는 과정은 표현을 유도하는 과정과 같다. 반면에 열린 궤적상의 코호몰로지군은 소 위 , 표 현 의 코호몰로지 적 인 유도과정 (cohomolog ica l i nduc ti on) 을 실현 시키고 있다. L 분류의 표준모듈들은 원래 이산표현 또는 이산 표현 의 극한 으로부터 유도되었지만 토러스(t orus) 로부터 코호몰로 지적으로 유도된다고 생각할 수 있다. 마찬가지로, V-Z 분류의 표준 모듈은 분할 부분군 (s plit sub gr ou p)의 주조행 렬(p r i n cip al se ri es) 로 부터 코호몰로지적으로 유도된다. 지금까지의 과정을 간단히 요약하자. L 분류의 표준모듈은 Lang - lands 궤적 D 와 어떤 선속 £에 연관되어 있는 H-C 모듈 (0.3) 에서 얻을 수 있고 , 반면에 V-Z 분류의 표준모듈은 (0.3) 에서 얻을 수 있 댜 앞에서 언급한 것처럼 B-B 분류의 표준모듈을 쌍대화하면 이것 들은 쌍대성 정리에 의해 G- 궤적과 밀접하게 관련되어 있다. 세 분 류 의 표준모듈은 모두가 G- 궤적 근방의 국소적 코호몰로지군을 통 해 얻을수 있다 Q 를 K 오궤 적 이 라 하고 £을 Q의 근방상에 정 의 되 는 (g, cc)-equ i- vari an t 해석적 선속이라고 하자. 그리고 £이 적당한 음치성 조건을 갖는다고 가정하자. 쌍대성 정리에 의해 이 표준 모듈의 쌍대에 Q의 쌍대인 G- 궤적 D 와 X 의 표준선속에 의하여 뒤틀린 역선속을 대응 시킨댜 D 는 극소 G 궤적이 될 수도 있다. 죽, D 는 Lang la nds 궤적이 댜 이 경우 국소적 코호몰로지군 (0 .4)는 L 분류에서의 표준모듈이 된다 D 가 Lang la nds 타입 이 아닌 경우는 D 보다 한 단계가 낮은 하나 또는 여러 개의 G- 궤적 D j가 있다. 이 궤적 D j에 대응되는 선속£j가 존재하며 이들 선속 £j의 풀백(p ull-back) 은 £과 일치한다 . £의 음치 성 조건에 의하여 화이버속 p : D --+ D i의 차수는 음수이다. <극

화의 변화 (chan g e of po lariz a ti on , [27]) >에 의 하여 HP(X, 0(£)) 은 H;;\x,n\1x. . (p*£))과 동형이댜 이 과정을 계속 시행하면, 마침내 Lang la nds 궤적과 Lan g lands 의 음치 성 조건을 만족시 키 는 선속에 도달한다. 따라서 , Lang la nds 분 류의 기약 H-C 모듈을 얻는다. 이제까지 군표현론의 기하학적인 방 법을 간략하게 설명하였다. 보다 자세한 것은 [6], [25], [26], [27] 을 참조하기 바란다 . 이 책은 다음과 같은 내용으로 구성되어 있다. 제 1 장은 이 책 을 이해하는 데 꼭 필요한 기본적인 용어, 정의, 기호 둘을 소개하였다. 제 2 장에서는 긴밀군의 표현에 관하여 설명하고 있다. 긴밀군의 Wey ! 지표공식, Wey l 분모공식과 Wey l 차원공식의 유도과정을 간략하게 기술하였다. 이들의 공식은 비긴밀 반단순 Lie 군의 표현론 연구에 아주 유익하게 사용되고 있다. 제 3 장에서는 비긴밀 Lie 군의 구조에 관하여 논하고 있다 . 특히 선 형 연 결 reducti ve 군(linear connecte d reduc tive gro up ) 의 경 우 를 다루고 있다 군 G 가 실행렬 또는 복소행렬들의 집합으로 임의의 원 g E G 에 대하여 항상 tg 도 역시 G 의 원일 때 G 를 선형연결 reducti ve 군이라고 한다. 이 특별한 Lie 군을 다루는 이유는 우리가 자주 다루 고 있는 고전군이라든가 행렬군 등이 바로 선형연결 reducti ve 군안 데다가, 이 Lie 군의 경우는 대부분의 중요한 결과들을 아주 상세하 고구체적으로서술할수 있다는 장점이 있기 때문이다. 이 장에서는 Carta n 분해, lwasawa 분해, KAK 분해, Bruhat 분해와 Lang la nds 분 해 등에 관해 설명하고 있다. 또한, 뿌리공간, Wey l 방, Wey l 군 등의 아주 기본적인 개념도 다루고 있다. 제 4 장에서는 국소적으르 긴밀인 위상군의 유도표현의 개념을 설 명하고 있다. 또한, Mackey 소군 정리와 비원시성 정리를 설명하고 있다. 제 5 장에서는 선형연결 reducti ve 군의 허용표현의 개념과 성

질을 다루고 있다. 포물적 부분군의 표현으로 얻은 유도표현이 허용 표현임을 증명한다. 증명 없이 Lang la nds 분류를 간략하게 소개하고 있다. 제 6 장에서는 Lie 군의 Plancherel 공식에 관해 서술하고 있다. 이 공식의 간략한 역사적인 흐름을 소개한 후, 복소 Lie 군에 대한 Plancherel 공식과 비긴밀 Lie 군의 Plancherel 공식에 관해 설명하고 있댜 특 히 특 별 선형 Lie 군 SL(n,

끝으로, 이 책을 저술할 기회를 마련해 주었을 뿐만 아니라 재정 적으로 지원해준 대우재단에 깊은 감사 를 보낸다 . 1998 년 가 을 양재현

차례

머리말 •5

제1장 준비단계 21

1.1 군의 표현 ·21

1.2 Lie 대수 • 23

1.3 Lie 군 • 26

1.4 뿌리시스템 • 28

1.5 Weyl 군 • 33

1.6 보편포락대수 • 35

1.7 트레이스 • 37

1.8 지표와 직교성 관계 • 40

제2장 긴밀군의 표현 47

2.1 토러스 • 47

2.2 무게와 정수형식 • 48

2.3 Verma 모듈 • 54

2.4 Weyl 지표공식 • 59

제3장 비긴밀군의 구조 67

3.1 선형연결군 • 67

3.2 Iwasawa 분해 • 71

3.3 정칙원, Weyl 방과 Weyl 군 • 77

3.4 KAK 분해와 Bruhat 분해 • 83

3.5 Langlands 분해 • 86

3.6 Weyl 적분공식 • 87

제4장 유도표현 89

제5장 허용표현 97

제6장 Plancherel 공식 111

6.1 아벨 군의 Plancherel 공식 • 111

6.2 복소 Lie 군에 대한 Plancherel 공식 • 117

6.3 SL(2,R)의 Plancherel 공식 • 133

제7장 기약 완화표현 147

7.1 정의와 기호 • 147

7.2 완화표현의 성질 • 153

제8장 극소 K-타입 157

제9장 Kirillov 궤적방법 163

9.1 Lie 군의 쌍대수반궤적 • 163

9.2 극화성 • 170

9.3 Kirillov 대응 • 173

제10장 Borel-Weil 정리 183

제11장 유니터리 군과 Heisenberg 군 195

11.1 SU(2) • 195

11.2 유니터리군 U(n) • 198

11.3 SL(2,C) • 210

11.4 Heisenberg 군 H • 216

참고문헌 • 227

찾아보기 / 인명 • 231

사항 • 233

제 1 장 준비단계 제 1 장에서는 군표현론에서 꼭 필요한 기본적인 개념과 용어들을 간략하게 서 술하겠 다. 1.1 군의 표현 먼저 위상군(t o p olo gi cal gr ou p)의 개념을 설명하겠다 . 정의 1.1.1 집합 G 는 군구조를 지닌 Hausdorff 위상공간으로 아 래의사상 G x G 一+ G, (x, y) i------+ xy -1 이 연속일 때, G 를 위상군이라고 한다. 이제부터 편의상위상군 G 가주어져 있고 G 가국소적으로긴밀이 고 제 2 가산적 (second coun t able) 이라고 가정한다. 그러면 G 위에 왼 쪽 불변 Haar 측도 d1x 가 존재한다 . 뿐만 아니라, G 위에 오른쪽 불변

Haar 측도 drx 도 존재한댜 다시 말하면 , 임의의 함수 f E Cc (G) 에 대하여 la f(x )d1x = la f(yx) dx, la f(x )drx = la f(x y )d rx 인 관계가 성립한다. 여기서, Cc(G) 는 긴밀받침을 지닌 G 위의 복 소함수들의 공간을 나타내고 있다. 일반적으로 , d1 x 와 d r x 는 일치하 지 않는댜 만약에 d1x 와 d r x 가 일치하면 위상군 G 를 유니모듈러하 다 (un i modular) 라고 한다 예를 들면, 긴밀군과 가환 군 은 유니모 듈 러하댜 정의 1.1.2 지금, 위상군 G 와 복소 Hilb ert 공간 V(# 0) 가 주어져 있다고 하자. GL(V) 를 유계 (bounded) 이며 가역적인 사상 f : V---+ V 들의 집합이라고 하자. 그러면, GL(V) 는 위상군이 된다 군동형사 상 : G 一 GL(V) 가 연속일 때 , 사상 를 V 위의 위상군 G의 표 현 (re p resen t a ti on , 表 現)이라고 한다 . V 의 벡터공간 U 가 있어 임의 의 원 g E G 에 대해 (g) U 드 U 인 관계가 성립될 때 U 를 군표현 에 대하여 불변부분공간이라 한다. 군표현 에 대하여 불변부분공 간이 0 과 V 밖에 없을 경 우 표현 를 기 약이 다(i rredu ci ble) 라고 한다. 정의 1.1.3 두 개의 위상군의 표현 (~,v) 와 (섭 ,V') 이 주어져 있 을 때 임의의 g EG 에 대하여 장(g) o E = E o ~(g), g E G 인 관계식을 성립시키는 유계이며 가역적인 선형사상 E : V -----t V 이 존재하면 두 표현 (~, v) 와 (~', V/ )을 서로 동치 이 다 (e q u i valen t) 라고 한댜 Hi lbe rt 공간 V 의 내적 (,)이 있어 임의의 g E G 에 관하 여 ~(g)가 유니터리(unit ar y)일 때 , 죽 임의의 g E G 와 v,w E V 에 관

하여 ((g) v, (g) w) = (v, w) 인 관계가 성 립할 때 군표현 ( ,V) 를 유니터리 표현이라고 부른다. 예 1.1.4 G 를 국소적으로 긴밀인 군이라 하고 V := L2(G,d1x) 라 놓자. 임 의 의 g E G 와 f E V 에 대 하여 (g)f(x ) := f(g- 1x), x E G 로 정의되는 군표현 : G -----+ GL(V) 를 G 의 왼쪽 정칙표현 (le ft reg u lar re p resen t a ti on) 이라 한다 또 W := L2(G,drx) 라 두자. 임의 의 g E G 와 f E W 에 대하여 \ll(g)f(x ) := f(x y ), 'Ix E G 로 정 의 되 는 군표현 '11 : G -----+ GL(W) 를 G 의 오른쪽 정 칙 표현 (rig h t reg u lar re p resen t a ti on) 이 라 부른댜 1.2 Lie 대수 이 절에서 k 는 표수 (charac t er i s tic, 標數)가 0 인 체(fi eld) 이다. k 위의 벡터공간 g상에 쌍선형사상 [, ] : g x g --+ g가 있어 임의 의 X,Y,Z E g에 대하여 (L1) [X,Y] = —[ Y,X]; (L2) [[X,Y],Z] + [[Y,Z ],X] + [[Z,X],Y] = 0

의 두 관계식을 만족할 때 g 를 k 위의 Lie 대수라고 한다. 보 통 [ , ] 를 Pois s on 괄호라고 부 른 다. 관계식 (L 이는 Jac obi 항등식이라 불 린다. (g, [, ])와 (h, [, ]') 를 두 개의 Lie 대수라고 하자. 선형사상

고 부른다. 유한차원의 Lie 대수 g가 비가환대수이면서 0 과 g 이외의 이고 데부 알 른을 댜 지 만니 일고 r있ad지g 않=으 0 면이 면g 를 g 를단 순반 L단ie 순 대 수Lie ( s 대i m수 p l (e sLe rire ii as li mge p b lrea )L 라ie al g ebra) 라고 한댜 준동형사상 D : g ― ➔ g가 D([X, Y]) = [D(X), Y] + [X, D(Y)], X, Y E g 인 관계식을 만 족할 때 D 를 g의 미분 (der i va ti on) 이라 한다. 원소 X E g에 대하여 사상 ad X : g 一내는 ad X(Y) := [X, Y], Y E g 로 정의되는 g의 미분이다. B(X, Y) := Tr(ad X ad Y), X, Y E g 로 정 의 되 는 g 위 의 대 칭 쌍선 형 형 식 B : g X g _ ➔ k 를 g의 Kil li n g 형 식 이 라 한다. Car t an 의 결과에 의 하면 Lie 대수 g가 반단순이 기 위 한 필 요충분조건은 g의 Ki lling 형식이 비퇴화 (nonde genera t e) 인 것 이다. 만일, g가 반단순이면 [g,g] =g임을 쉽게 보일 수가 있다 . 그리고 Lie 대수 g가 반단순이기 위한 필요충분조건은 g = g1 협 • • ®gn (각각의 9 i는 단순 Lie 대수이며 g의 이 데알임) 의 형태로 표현할 수 있다는 사실과 동치임을 알 수 있다. 정의 1.2. 1 a 를 Lie 대수 g의 부분대수라 하고 b 를 g의 이데알 이라 하자. 그리고, [a,b] 도 b 인 관계식을 만족한다고 하자. 그러면 a 와 b 의 직합 aEB b 는 Lie 대수 구조를 지니며 aEB b 를 a 와 b 의 반직 적 (sem idi r e ct pro duct) 이 라 한댜

1.3 Li e 군 정의 1.3. 1 G 가 연결 (connec t ed) 인 위상군으로서 G 위에 COO 구조 가 있으며 사상 G x G ―나 G, (x, y) ~ xy -1 이 c oo 사상이 라고 하자. 이때, G 를 Lie 군이라 한댜 x E G에 대하여 Lx(Y) := xy (y E G) 로 정 의 되 는 군동형 사상 Lx : G —--+ G 를 왼 쪽 평 행 이 동 (le ft tra nslati on ) 이 라 하고 R,x(y) := yx (y E G) 로 정의되는 군동형사상 Rx : G ---t G 를 오른쪽 평행이동이라고 한다. Lie 군 G 위의 벡터장 X 가 모든 왼쪽 평행이동 Lx (x E G) 에 의하 여 불변일 때 X 를 왼쪽 불변이다 (le ft i nvar i an t)라고 한다 e 가 G 의 항등원소일 때 e 에서의 G의 접벡터공간을 Te (G) 로 표기하기로 한다 . 그리고, g를 G 위의 모든 왼쪽 불변인 벡터장들의 집합이라 하자 . 그 러면, g는 차원이 dim G 인 Lie 대수가 된다. 이때 Pois s on 괄호 [ , ]은 [X, Y] :=XY-YX, X, Y E g 로 주어진댜 임의의 X E g에 Xe E 따 (G) 를 대응시킴으로써 g와 따 (G) 를 동일하다고 볼 수 있댜 그래서 g 또는 따 (G) 를 Lie 군 G의 Lie 대수라고 한다 임의의 왼쪽 불변인 벡터장 X E g에 대하여 지수 사상 (ex p onen ti al map ping ) exp :g- G 가 촌재하며 ex p O=e 이고 exp tX (-oo < t < oo) 는 X 의 적분곡 선(i nt e gr al curve) 이 된다는 사실은 잘 알려져 있다. 임의의 X,YE g에 대하여 exp tX • exp tY = exp {t(X + Y) + ½t2[ X,Y] + O(t3 ) } (1.3. A)

exp (—tX ) • exp (-tY) • exp tX • exp tY = exp {t2[ X, Y] + O( t합}, (1.3. B) exp tX • exp tY • exp (-tX) = exp {tY + t2[ X, Y] + O(t3 ) } (1.3. C) 인 관계식이 성 립한다. 여기서, O( t 3) 은 구간 (-OO,oo) 에서 g로의 사 상이며 어떤 양의 실수 c > 0 이 있어 |ti < c 인 t에 대하여 r30( t이은 유계이며 co o 사상이다 . 이제 ,G 를 L i e 군이라하자.원소g EG 에 대하여 사상 19:G­ G 는 Ig( x ) := gx g -1 , x E G 로 정의되며 I9 는 G 의 미분동형사상이다. 항등원소 e 에서의 사상 I9 의 미분사상을 Ad( g)라고 표기하면 Ad(g) : g ― ➔ g 는 g 위의 선형동형사상이다. 원소 g는 임의이므로 Ad : G 一 GL(g) 는 Lie 군 G 의 표현이 되며 이것을 G의 수반표현 (adj o int rep r esenta - ti on) 이라 한댜 cp : G 一 H 를 Lie 군 G에 서 Lie 군 H 로의 coo 사상이 고 dcp ( e) : g 一 h 를 항등원소 e 에서의 p의 미분사상이라고 하자. 그러면, exp H o dr.p ( e) = r.p o exp a 인 관계식이 성립한다 . 여기서,g와 h 는 G 와 H 의 L i e 대수이고 e xp G 와 ex p H 는 각각 Lie 군 G 와 H 의 지수사상들이다

정 의 1.3. 2 Lie 군 G 가 Lie 군 H 상에 서 미 분동형 사상으 로 작용한 다고 하자. 즉 , co o 사상 r : G x H-H 가 존재하며 r(g, ·) : H---. H 는 H 의 미분동형사상이다. 그러면 G 와 H 의 반직적 (sem i d i rec t pro duct) G x H는 (91, h1) o (92, h2) := (9192, r(9i1 , h1)h2), 91, 92, E G, hi , h2 E H 로 주어지는 곱을 지닌 Lie 군으로 정의된다. G 와 H 는 G xT H 의 닫 힌 부분 Lie 군이며 H 는 G 의 정규부분군임을 쉽게 알 수 있다. Levi 분해 g를 실수체 惡상에서 정의된 유한차원의 Lie 대수라고 하자. 그러면, g는 이의 반단순 부분 Lie 대수와 rad g와의 반직적과 동형이다. 1.4 뿌리시스템 V 를 내적 <, >를 지닌 실수체 R 상의 유한차원의 벡터공간이라 하자 . V 의 추상적 뿌리시스템 (abs t rac t roo t s y s t em) (V, <, >, I:::.)이 라고 하는 것은 아래의 세 조건 (1.4. 1), (1. 4 . 2) 와 (1. 4.3) 을 만족하는 V 의 유한부분집합 A 이댜 0 ¢ A 이고 A 는 V 를 생성한다. (1.4. 1) 임의의 a E I:::.에 대하여 %(!:::.) = I:::.이다 . (1.4. 2) 임의의 a,{3 E l:::.에 대하여 2< > 는 정수이다. (1.4. 3) 여기서, a E I:::.에 대하여 사상 Sa : V ·―기셔큰 s0(v) := v -2 • ~<> , v E V (1.4. 4 )

로 정의된 V의 직교변환을 나타내고 있다. A 의 원소를 뿌리 (roo t)라 고한다. 추상적 뿌리시스템 A 가 있어, 만약에 a E 6.일 때 항상 2a (/_ 6.이 면 스 를 축소되어 있다 (reduced) 라고 한다. 추상적 뿌리시스템 스가 있어 6. = 6.1 U 6.2 (단 , 6 1 과 6. 2 는 공집합이 아니며 6.1 n 6.2 = ¢ 인 추상적 뿌리시스템임)의 형태로 분해될 수 없으면 스를 기약이 다(i rreduc i ble) 라고 한다 x E V 에 대하여 |xi :=< X,X >1/2 으로 나 타내기로 한다 그리고 aE 6.이고/3 E 6. U{O} 일 때 아래의 집합 { /3 + na E 6. U {0} I n E Z } 룰 f3를 포함하는 a- 끈이라고 한다. l:=dim V 라고 하자. 먼저, V 의 기저 V1,· · · ,VI 울 고정시키자. V 상 에 순서를 다음과 같이 정의한다. V E V 이며 V = I: ! = la i V i이고 어떤 k 2: 0 인 정수 k 가 있어 a1 = • • • = ak = 0, ak+l > 0 이면 V 를 양이 다(p os iti ve) 라고 한댜 이 경우, v > O 으로 표시한다. 뿌리 a E 6 가 있어 a > O 이고 a = a1 +야 (단, a1 과 a2 는 양인 뿌리임)의 형태로 나타낼 수 없으면 a 를 단순뿌리 (s i m p le roo t)라고 부른다. 증명 없이 아래의 유용한 정리를 소개하겠다. 정 리 1.4. 1 l=d im V 라 하고 A 를 V 의 추상적 뿌리 시 스템 이 라 하 자. 그러면, 일차독립인 마의 단순뿌리 야, ••• ,al 이 존재한다. 만일, {3 = ~~=la jD!j가 뿌리이면 모든 계수 a J는 정수이며 이들의 부호는 모두같댜 정리 1.4. 2 a 와 /3가 서로 다른 단순뿌리이면 < a,/3 >~ o 이다. 야 ••• ,al 을 A 의 단순뿌리라고 하자. 그리고, V 위에 순서를 고

정시키자. 다음과 같이 정의되는 l X l 행렬 A = (aii ) % := 2 < |~aaii, I2 a i > ' i,j=1.2. ···,l 을 Cart an 행 렬 이 라고 한다. 연습문제 1.4. 3 다음을증명하여라. (1) aij E Z. (2) aii = 2, i = 1, 2, • • • , l. (3) i f= j이 면 aii = 0, -1, -2, - 3. (4) i f= j이 면 aij aj i < 4. (5) aij = 0 {::} aii = 0 (6) det A E z+ Carta n 행렬 A = (a, J-)로부터 소위, Dy n kin 다이어그램을 정의할 수 있댜 각각의 단순뿌리 아에 평면상에서 < ai, ai > 에 비례하는 무 게를 지닌 점을 대응시키고, 두 개의 단순뿌리 a i와 ai( i-:/=j) 사이에 aij aj i 개수의 직선을 잇는다. 그리고 O i 와 ai (i -:/= j) 중에서 길이가 작은쪽으로 화살표를 기입한다. 이렇게 하여 얻은 평면 안의 도표를 추상적 뿌리시스템 (V,<, >,6) 의 Dy nkin 다이어그램이라고 한다. 역으로 Dy nkin 다이어그램이 주어지면 이것에 대응하는 추상적 뿌 리시스템을 얻을 수 있다. 축소되어 있고 기약인 추상적 뿌리시스템 은 아래와 같이 분류되었다 . 01 -01 -• • ·-01 -01 al (l ~ 1) al a2 al-1 aI 02 -02- ·•· 2。 1。 bl (l ~ 2) al a2 aI-1 aI

O1 1o — . .. —1O = 2O c1 (l ;;:,: 3) a1 a2 01- 1 이 1。 La1 ― 仁야 ... _ 야1 -。 /\~l1 - 1 Di (l ~ 4) 。 a1 0 야 (1) Ol 1O O1 O1 O1 C6 (l = 6) 야 야 야 (1) a3 a1 。 야 (1) 야仁 二 야― 야 : a4』 ( 二l ) 。야 二 야 。 e1 (l = 7) 0 야 (1) o1 ol 1o 1o o1 1o 1o es (l = 8) 야 야 야 야 야 (1) 야 야 2O 2O l 10 10 f4 (l = 4) al a2 a3 a4 o1 3o 92 (l = 2) al a2 g 를 C 상의 반단순 Lie 대수라고 하자. 그러면, g 안에는 Cart an 부 분대수 h 가 적어도 하나 존재한다. 여기서, h 가 Carta n 부분대수라 고 하는 것은 첫째, h 가 g의 극대 가환부분대수이고, 둘째, 임의의 H E Q에 대하여 adH 가 대각화가 가능하다는 것이다. a E Q'에 대하 여 9ct ={ X E g I [H,X] = adH(X) = a(H)X, 'H E ry }

로 정의한다 g0 # {0} 이면 a 를 g의 뿌리라고 하고 g a 를 g의 뿌리 부 분공간 (roo t subs p ace) 이라고 한댜 go = h 임을 유의하라. Ja cobi 항 등식에 의하여, 임의의 a,0 E h' 에 대하여 [gG ,g f3 ] e g 0+ f3 이다. 정 리 1.4. 4 6 = 6(g; FJ) := {a E FJ' I a =/= 0, 9o =/= 0} 이 라 하고 B 를 g의 Ki lling 형 식 이 라 하자. 그러 면 (l) g = FJ + LoE~ go (직 합) . (2) 임의의 a E 6 에 대하여 dim 9a = 1. (3) a,{3 E 6 이고 a + /3 =I= 0 이라 하자 . 그러면, g G 와 g /3는 B 에 대 하여 직교한다. (4) Bl~ x ~ 는 비퇴화이댜 임의의 a E FJ'에 대하여 B(H, Ha) = a(H), vH E FJ 인 Ho E FJ가 유일하게 존재한다. (5) a E 6 이면 -a E 6 이댜 그리고, [go , 9-o] = CHo, a(Ho) =/= 0. 정리 1.4. 5 a,{3 E 6 를 뿌리라고 하자 . 그러면, (l) f3를 포함하는 a- 끈은 f3+ na, -p S n S q, p 츠 0, q 츠 0 의 형 태이다. -p SnS q에 빈틈이 없으며 p-q= 2BB~((HH0a,,EHH1a3)) Z (2) a + f3 # 0 이 면 [9a, gp] = 9a+ f3이 댜 (3) a 와 비 례하는 뿌리는 국~, 0, a 밖에 없다. 정리 1.4. 6 QR := I: ae~lRHa 이라고 두자. 그러면,

(l) B 는 hR X hP. 위에서 실수값을 가지며 양부호이다. (2) h = hR ® ih R (직 합). 1.5 Wey l 군 이 절 에서 는 축소되어 있는 추상적 뿌리시스템과 연관되어 있는 Wey l 군 을 정의하고 Wey l 군의 여러 성질을 증명 없이 소개하겠다 (V, < , > , 6) 를 축소된 추상적 뿌리시스템이라 하자. 집합 {solo: E A} 에 의하여 생성된 군 W 를 스의 Wey! 군이라고 한댜 여기서 sa 는 (1. 4 .4)에 의해 정의되는 직교변환임을 기억하라. W 는 V 의 직교변 환 둘 로 이루어진 유한군임을 쉽게 알 수 있다. 그리고 임의의 V의 직 교변환 r 에 대하여 Bra = r o Sa o r-1, a E 6 의 관계식이 성립한다. 왜냐하면 임의의 VEV 에 대하여 sra(rv ) = rv -2 • ~<< rrav,, rrraa >>a = rv -n2 • ~<< av,, aa a>> = r(s0v) 이기 때문이다. V 위에 순서를 고정하자. 그러면, 이 순서는 양인 뿌리들의 집합 A + 를 결정하며 6 = b,+ u (一 A+) 이다 . A+ 는 단순뿌리들로 이루어 진 집합 IT := {01,02, ••• ,01} 을 제공하며 임의의 a E A+ 는 a=E 呼 i , c i 츠° i= l 의 형태로 쓸 수 있댜 단, l = di mV 이다 이때 TI 를 스의 단순시스 템 (sim p le sys t e m ) 이 라고 한댜

정리 1.5 .1 7r = {01,02, ••• ,0/} 을 스의 단순시스템이라 하자. 그 러면, Wey l 군 W 는 집합 {아 |ai E rr} 에 의하여 생성된다 그리고 a E A 가 뿌리이면 SOj = Q인 aj E rr 와 s E W 가 존 재한댜 정리 1.5.2 H 와 H' 을 스의 두 단순시스템이라 하자 . 그 러면, 유 일한직교변환 sEW 가존재하여 sn = n’ 이다 A+정 와리 단 1순.5시. 3스 템축 소n된 = 추{a상1,적 .. . 뿌 ,리아}시울스 고템정 t시::,' 키양자의 . 정뿌리리 들1. 5 의 . 1 에집 합의 하여 wEW 이면 (*) w = sik O • • • O Si p Si , : = Sa ;, , a;, E IJ, l = l, • • • , k 의 형태로 나타낼 수 있다. 물론 , 최소 개수의 S i ,로 m 를 ( * )의 형태로 나타낼 수 있는 경우가 있다. 이 경우에 S i,의 최소 개수 를 w 의 길이 라고 부르며 이룰 l(w) 로 표기한다. 정리 1.5.4 w E W 에 대하여, l(w) 는 유한집합 {a E t::,_+ I wa < 0} 의 개수와 같다 . 정리 1.5. 5 벡터 v E W 에 대하여 W(v) :={ w E W I wv = v } 라 정의하자 . 그러면, W(v) 는 집합 { s01a E 6, < v,a >= 0 }에 의 하여 생성된다.

1.6 보편포락대수 이 절에서는 보편포락대수(t he un ive rsal envelop ing alge bra, 普通 包絡代數)의 개념을 소개하겠다. 정의 1.6.1 g를 임의의 차원의 체 k 상의 Lie 대수라고 하자 . 한짝 (£, 7r) 가 있어 아래의 성 질 (1), (2), (3), (4) 를 만족할 때 (£, 7r) 를 g의 보편포락대수라고 한다. (1) £는 체 k 상의 결합적 대수이고 T : g ---+ C 는 선형사상이다. (2) 1r(9) 는 C 를 생 성 한댜 (3) 임의의 X,Y E g에 대하여 1r([X, Y]) = 1r(X)1r(Y) —1r (Y)1r(X). (4) U 가 결합적 대수, g : g ---+ U 가 선형사상이라 하고 임의의 X,Y,E g에 대하여 (([X, Y]) = {(X)((Y) -( (Y)((X) 의 관계식이 성립한다고 하자. 그러면, 임의의 X E g에 대하여 {(X) = 파 (X)) 의 관계식을 만족시키는 동형사상 (' : £ ---+ U 가 존재한다. 정리 1.6. 2 (&,1r) 와 (C', 군)이 Lie 대수 g의 보편포락대수라고 하 자. 그러면, 임의의 X E g에 대하여 ((1r(X)) = 1r'(X) 의 관계식을 만족시키는 동형사상 <: C __> C' 이 유일하게 존재한 댜

g를 체 k 상의 Lie 대수라고 하자. 3 를 g의 텐서 대수라고 하자. Jo := k, J 1 : = 9, • • • , Jm := g EB • • • EB g (m-번 ) , . . . (m = 0, 1, 2, • • • ) 이 라 두 면 oc 3= 드 3,11 m= O 이다. 두 원소 X,Y E g에 대하여 ux,Y := X®Y-Y® X-[X ,Y] 라고놓자.그리고, t ®ux,Y ®t', t, t' E J, X,YEg 의 형태의 원소들에 의하여 스팬되는 3 의 부분공간을g이라표기하 자.즉, g= 드 3®ux,Y ®3 X, YE g 이다 임의의 X,Y E g에 대하여 ux,Y E J 1+ J 2 이므로 £ 드 EnI 츠 l J n,· 그러므로,gg 3 이고£는 3 안에서 양쪽 이데알이다. 따라서 우리는 상대수 U(g) := J/.C 를 정의하고 자연스런 동형사상 , : J - U( g)를 정의한다. 그러면, (U( g),,)이 g의 보편포락대수임을 쉽게 증명할 수 있다. Poin care-Bi rk hoff -W i tt 정 리 g를 체 k 상의 Lie 대 수라 하고, J를 선형순서집합, {Xi E .9 I i E J}를 g의 기저라고 하자. 그러면, U( g)의 단위원 1 과 ,(Xi1 ) • • ·,(Xi, )(s 츠 1, i1 ~ • • • ~ %)는 U( g)의 기저를 이루고 g상에 국한한 제한사상 ,l g는 단사사상이다.

1.7 트레이스 G 를 위상군이라 하자. (p ,V) 와 (T, W) 를 유한차원의 표현이라고 하자. 그러면, (p ,V) 와 (T, W) 의 텐서급 (p @T,V@W) 는 (p ® T)(g) ( v ® w) := p(g)v ® T(g )w , g E G, v E V, w E W 로 정의되는 G 의 표현이다 두 집합 {v1,··· ,Vn} 과 {w1,··· ,Wm} 이 각각 V 와 W 의 기 저 라고 하면 {v 澤 w111 ~ i ~ n, l ~ l ~ m} 은 텐 서곱 V ® W 의 기저이댜 이 두 기저 {v i}와 {wl} 에 대하여 p와 T 가 n m p(g) vi := 두 Ti j (g) vj , r(g) w 1 := 두 S/p( g) wp j= l p= l 와 같이 작용한다고하면 (p (8) T)( g )(v 澤 미 = L rij( g)s 1p (g)v 1 ® Wp j,p 가 된댜 이 때 행 렬 (Ti j • Sl p)를 두 행 렬 (T2j )와 (sl p)의 Kronecker 곱이 라한댜 위상군 G 는 Hom(V, W) 상에 (g · f)(v ) := T(g )f(p(g-1 )v), g E G, f E Hom(V, W), v E V 와 같이 작용한다 . 여 기 서 , Hom(V, W) 는 V에 서 W 로의 모든 준동형 사상으로 이루어진 벡터공간을 나타내고 있다 . W=C 가 자명한 표현이면 Hom(V, C) = V* 를 (p, V) 의 쌍대 표현 (dual rep re senta t i on ) 이 라 한댜

V 의 기 저 {Vt , ••• 'Vn} 에 대하여 p(g)v i = Ln rij (g)v J J= l 라 하고 {vi, ·• • ,v ; }을 {V1,· ·· ,Vn} 의 쌍대기저라고 하자. 그러면, p * (g)이 = 드 강(g )v j j= l 라놓으면 강(g) = p * (g)야 (v j) = v;(p( g- 1)v1) = 아 (Er j k( g - 演) = Tji (g- 1) 이 된다. 그러므로 , p*(g) =t p(g -1) 인 관계가 성 립한다. V 가 복소공간이 면 공액 공간 V 롤 다음과 같이 정 의 한다. V 에 V 와 동일한 덧셈구조를 주고, T 상에 스칼라곱은 C x V 一 V, (C' V) I------+ CV 로 정 의 한댜 (p ,V) 를 (p, V) 의 공액표현 {conj u ga t e re p resen t a ti on) 이 라한다 보조정리 1.7. 1 ( , )가 G 의 작용에 불변인 V 상의 내적이라 하자. 그러면, 아래의 사상 v _ ➔ V*, V 1----+< ·, V > 은동형사상이다. 벡터공간 V 에 대해 l\i (V) 를i번째 외적멱 (ex t er i er p ower), S i (V) 를 i번째 대칭멱 (s ymm e t r i c p ower) 이라고 하자.

보조정리 1.7 .2 U, V, W 를 유한차원의 벡터공간이라고 하자 . 그 러면 아래의 관 계 (1), .. · , (6) 이 성 립한다. (1) (U ® V) ® W ~ U ® (V ® W), (2) U ® V ~ V ® U, (3) U ® (V EB W) ~ (U ® V) EB (U ® W), (4) 샤 (V EB W) 터 학= 0 /\i (V) ® /\k- i ( W), (5) Sk (V EB W) ~ EBf =0 S i( V) ® 3k -i ( W), (6) V ® V ~ S2(V) EB 서 (V). 사상 0 : V* ® W 一 Hom(V, W) 를

0(v* ® w)(u) := v*( u )w, v* E v•, w E W, u E V 라고 정의한다. 그러면, 0 는 동형사상이다. 사상 Tr : Hom(V, V) ~ V* ® V 一 C 를

Tr(v* ® u) := v*( u ), v* E V*, u E V 라고 정 의 한다. 이 때 사상 Tr 을 트레 이 스(t race) 라고 부른다. 정 리 1.7. 3 다음의 성 질 (1)-(8) 이 성 립 한다. (1) Tr : Hom(V, V) ― ➔ c 는 선형사상이댜 (2) 임의의

(4) 임의의 f, h E Hom(V, V) 에 대하여 Tr(! EB h) = Tr(!) + Tr(h) (5) 임의의 f E Hom(V,V) 와 h E Hom(W,W) 에 대하여 Tr(! ® h) = Tr(!) • Tr(g) . (6) f : V 一 V E Hom(V, V) 는 사상 f* : V* ----+ v· E Hom(V* l V*) 를 유도하고 TT(f* ) = TT(f) 이 다 (7) f E Hom(V, V) 가 멱 등(i dem p o t en t)이 면 TT( f)는 f의 상의 차 원과동일하댜 (8) f E Hom(V, V) 는 f E Hom(V, V) 를 유도하고 TT(f) = TT(f) . 연습문제 1.7. 4 정 리 1. 7.3 울 증명 하라. 1.8 지표와 직교성 관계 이 절에서는 지표 (charac t er, 指標)의 개념과 직교성 관계 (or t ho g­ ona lity rela ti on) 를 설 명 하겠다. 우선,군표현론에서 기본이 되고중요한 SchUl· 의 보조정리를소개 하겠다 Schur 의 보조정리 G 는 위상군이고, (p ,V) 와 (T,W) 는 기약인 G 의 표현이라고 가정하자. 그리고, Homc(V, W) :={ f E Hom(V, W) I f(p(g)v ) = T(g )f(v ), vg E G, 'v E V }

롤 Hom(V,W) 의 부분공간이라하자. 그러면, 아래의 성질이 성립한 댜 (1) f E Homc(V,W) 이면 f = O 또는 f는 동형사상이댜 (2) f E Homc(V,V) 는 적당한 상수 .\ E C 가 존재하여 f(v ) = .\v, v E V 의 형태로 주어진다. (3) V S:! W 이 면 dim ,c Homc(V, W) = 1 이 고, v ~ w 이 면 dim e Homc (V, W) = 0 이 다 증명 (1) 먼저 f의 핵 kerf := {v E Vlf( v ) = 0} 이 (p ,V) 의 불변 부분공간임을 손쉽게 알 수 있다 . 표현 p는 기약이므로 kerf = 0 또 는 kerf = V 이댜 kerf = V 이면 f 三 0 이고 kerf = 0 이면 f는 단 사사상이댜 f가 단사사상인 경우, f의 상 Im f는 (r,W) 의 불변부 분공간이댜 T 가 기약이므로 Im f = 0 또는 lm f = W 이댜 그런데 Irnf i-O 이므로 lm f = W 가 된댜 따라서 f는 동형사상이댜 (2) f 三 0 이 아니 라고 하자. >.(i-0 ) 를 f의 고유값이 라고 하자. 그 러 면, 고유공간 V>. := {v E V I f(v ) = >.v} 는 (p, V) 의 불변부분공간 이다 (p ,V) 가 기약이므로 V,x = V. (3) 위 의 (1) 과 (2) 의 성 질로부터 쉽 게 (3) 을 얻을 수 있다. • 이제부터는 G 를 긴밀군이라 하고 d g는 fcd g = 1 이 되도록 정규 화된 G 상의 Haar 측도이댜 (p ,V) 를 G 의 복소표현이라 하자. 이때 V의 부분공간 VG 를 VG := {v E VI p(g)v = v, '

는 사영 작용소(p ro j ec ti on o p era t or) 이 다 사 실은, 임 의 의 h E G 에 대 하여 p(h )p( v ) = lG p(h g )v dg = LJG p(g)v dg = p(v ) 이므로 p(v ) E VGp 이( v다) = V l E pV(Gg )이 v면dg = Lvdg = v. G JG (p ,V) 와 (T,W) 를 G 의 표현이라 하면 G 는 Hom(V, W) 상에 (g • f)(v ) := T(g )f(p(g- 1)v), g E G, f E Hom(V, W), v E V 와 같이 작용한다. 그러면 정의에 의하여 Hom(V, W f = Homc(V, W). 그러므로,우리는 p. : Hom(V, W) 一 Homa(V , W), p.(f) := L(g • f)d g, f E Hom(V, W) G 로 정의되는 사영작용소를 얻는다. 정리 1.8. 1 (p ,V) 를 기약인 G 의 표현이라 하자. 그러면 임의의 / E Hom(V, V) 에 대하여 L(g • f)d g = dh 굽1 VTr (f )Iv. 여기서, TT( f)는 f의 트레이스이고 Iv 는 V의 항등사상이다 .

중명 Schur 의 보조정 리 에 의 하여 Homc(V, V) ~ c 이 므 로 LG( g - f) dg = c • lv, c 는 상수 의 형태이댜 상수 c 를 구하기 위해 상기의 관계식에 Tr 을 작용시키 면c • dim ,c V = Tr(c -Iv ) = LTr (g • f)dg G = fcT r(p( g) of op ( g- 1))dg = fcT r(f )dg = Tr(!). ■ 정리 1. 8.2( 직교성 관계) (p ,V) 를 G 의 기약표현, <, >를 복소공 간 V의 에르미트 형식이라 하자. 그러면 다음의 성질 (1) 과 (2) 가 성 립한다 (1) 임의L의< f (gE •H fo)m(v( )V,w, V )> 와dg v =,w ~ ET V 에r (대!하)여 < v,w > . l(a2 ) <임 p의(g의- l )vv,, wo: ,>a,하 d여g = ~ < /3, 0: >< v, w > . 중명 (1)L 정< 리 (g1 .• 7 f.)1 (에v ),의 w 하 >여 d g =< L(g • f)dg (v ), w > G =< ~dim l T cv r(f)v , w >= d~imT1e Vr (!) < v,w > . (2) 사상 fo,{ 3 : V -+ V 를 fa,{ J( u) :=< u, Q > /3, u E V

라고 정l a의 한< 댜(g • 선fa 형,f J ) 사(v상), w f n> , i J d에g 상=기 ~ 의T (1) r을 (적f0 .용a )하 <면 v, w > . Tr(f a,3 ) =< {3, a >임을 쉽게 계산할 수 있고 < (g • fa ,.IJ ) ( v), W >=< p(g)fa.3 P (9-l)(v), W > =< p(g)(< p(g- 1)(v), a : > {3), w > =< p(g기 (V), 0: >< p(g)({3 ) , W > . ■ 정리 1. 8.3( 직교성 관계) (p ,V) 와 (T,W) 는 G 의 기약표현으로 서 v ~ w 이라고 가정하자. G 의 작용에 불변인 V 와 W 상의 내적 <, >v 와 <, >w 에 대하여 1< p(g) a, V >11 < T(g )/3, w >w dg = 0. G 단, a,v E V 이고 /3, w E W 이댜 증명 벡터 a E V 와 /3 E W 를 고정시키자. 쌍선형사상 B : V X W — ➔ c 는 B(v, 初) := J< p(g) a, v > < T(g) /3, w > dg G 라고정의된다 .B 는 G 의 작용에 불변이므로 G- 사상 B':V--+Hom (W,C) 브 W 를 제공한다 즉, B'(v) (初) := B(v,w). V ~ W 이므로 Schur 의 보조정 리 에 의 하여 Homc(V, W) = 0. 그러 므로 B' = O. 따 라서 B=O. 벡터 a 와/3는임의이므로상기의 정리를얻는다 . • 이제 표현의 지표 개념을 소개하겠다. 표현의 지표는 대응되는 표 현의 클래스를 유일하게 결정하기 때문에 중요하다.

정의 1.8 . 4 표현 (p, V) 의 지표 Xv : G -t C 는 xv(g ) := Tr(p( g)), g E G 로 정 의 된다 G 의 기 약표현의 지표 는 기약지표라고 한다. 정리 1.8. 5 표현 (p , V) 의 지표 x v 는 아래의 성질을 만족한다 . (1) xv 는 C OO 사상이 다 (2) V S:! W 이 면 XI ' = XW · (3) 임의의 g,h E G에 대하여 xv ( gh g -1 ) = xv ( h). (4) XV@ W = XV + XW • (5) XV® W = Xv • XW• (6) Xv•( g) = xv ( g- 1 ) (7) xv(g ) = xv(g ) = xv (g- 1) . (8) xv(e ) = dim cV. 중명 독 자 들 에게 연습문제로남기겠다. • 정 리 1. 8 . 5 의 (3) 에 의해 표현의 지표는 G의 공액류 (conj u g ac y class) 상에 서 는 상수이 다. 이 런 성 질을 지 닌 함수를 유함수 (class fun c ti on) 라 고한다 . 정 리 1.8 .6 (1) fa x v(g) d g = dim eVa. (2) < Xw , Xv >:= ~該 v ( g)x w ( g )d g = dime Homa(V, W). (3) (p ,V) 와 (r,W) 가 G 의 기약표현이라 하자 . 그러면, fcX v ( Y)xw(g )d g = {: :: ~ : ::

중(1)명 d im eVe = Tr(p) = Tr([ p(g) dg) = JcTr( p( g) )dg = [xv(g)d g . G (2) Hom(V,W)° ~ Homc(V,W) 임을 상기하자 . (1) 에 의하여 dim e Homc (V, W) = [ XHoll l(:( \ l,w ) (g) dg G = [ Xv ·@ w (g) d g = [ 첫 v( g )xw( g )d g (3) Schur 의 보조정 리 와 (2) 로부터 (3) 을 유도할 수 있다 . • 정리 1.8 .7 G 의 표현 (p ,V) 는 이의 지표에 의하여 유일하게 (u p to iso morph ism ) 결 정 된 댜 중명 V= ®j n j巧 룰 표현 (p ,V) 의 기약표현으로의 분해라고 하자. 그러면, xv = >n j X U, 단, nj =< XV,XV j > · ■ j 정 리 1.8. 8 표현 (p, V) 가 < Xv, Xv >= 1 을 만족한다고 하자 . 그 러면, (p ,V) 는 기약표현이다. 중명 만약에 v = ej n j E 이면, < Xv,Xv >= 1:n; = 1 이므로 어 떤 j에 대하여 nj = 1 이고 나머지 ni = O(i-: /= j). 따라서, (p ,V) 는 기 약이다. •

제 2 장 긴밀군의 표현 이 장에서는 단순연결 (s i m p l y connec t ed) 이고 반단순 긴밀군의 표현에 관하여 논하겠다. 유명한 Wey l 지표공식, Wey l 분모공식과 Wey l 차원공식의 증명을 간략하게 기술하겠댜 2.1 토러스 S1 := {z E C llzl = 1} 이 라 놓자. k 가 자연수일 때 S1 X • • -x S1 (k 번 곱)와 위상적으로 동형인 Lie 군을 토러스(t orus) 라고 부른다. 예를 들면 연결이고 긴밀인 가환군은 항상 토러스이다. 아래에 소개하는 정리들의 증명은 참고문헌 [10, 12, 31] 에서 찾 을수있다. 정리 2.1. 1 G 를 연결인 긴밀 Lie 군이라 하고 g를 G 의 Lie 대수 라고 하자. 그러 면 지 수사상 exp : g —--+ G 는 전사사상 (surj ec ti on) 이 댜

정리 2.1. 2 G 를 연결인 긴밀 Lie 군이라 하자 그러면, G 의 중 심 (cen t er) 은 모든 극대 토러스 (max i mal t orus) 의 부분집합이다 정리 2.1. 3 (Wey l 정리) G 를 반단순 긴밀 Lie 군이라 하자. 그러 면, G 의 보편피복군(t he un ive rsal coverin g g rou p)은 긴밀이다. 정리 2.1. 4 G 를 연결인 긴밀 Lie 군이라 하자. 그러면, 임의의 극 대 토러스 T쿈 } T2 는 공액이다. 다시 말하면, 어떤 원소 g E G 가 존 재하여 T2 = g T1 g -1 이다 정리 2.1. 5 G 를 연결인 긴밀 Lie 군이라 하자. 그리고 T 를 G 의 극대 토러스라고 하자. 그러면, 임의의 g E G 는 T 의 어떤 원소와 공 액이다. 2.2 무게와 정수형식 G 를 reduc ti ve 이며 연결인 긴밀 Lie 군이라 하고 g를 G의 Lie 대 수라고 하자. 연결인 긴밀 Lie 군은 유니터리 U(n) 의 부분군으로 간 주할 수 있기 때문에 gn ig = {O} 이 된다. g의 Carta n 부분대수 t를 취하고 T 를 t에 대응되는 G 의 극대 가 환부분군이라 하자. 그리고, t]R := it라고 놓자. 그러면, tC = tEB it = tnt EB itJR.. Ki lling 형 식 B(X, Y) := Tr(XY) 는 gC X gC 위 에 서 복소쌍 선형 사상이며 tlR X tlR. 위에서는 실수값을 갖고 양부호, 즉 B > 0 이 댜 Fa := CHa ® gc ® g-a (2.2.1)

라고놓으면 H~ 一 h= (二), E; 一 e=(: ;), E:Q 一 f := ( : : ) 의 대응 을 통 하여 F0 ~ s[(2,C) 임을 손쉽게 보일 수 있다. (p ,V) 를 연 결 인 긴밀 Lie 군의 표현이라 하자. 여기서, V 는 복 소 벡 터 공간이 댜 Pete r -Wey l 정 리 에 의 하여 V 의 차원은 유한이 댜 庫) 냐인 A E (t c ) * 에 대하여 V.x :={ v E V I dp ( H)v =A (H)v, '. E (t c ) * 가 주어져 있다고 하자. (1) E>.( exp H ) = e>-(H), vH E t인 관계식을 만족하는 T 의 지표 & : T 一 S1 가 존재하면 A 를 해석적으로 정수이다 (anal yti call y in- teg r a l) 라고 한댜 (2) 임의의 뿌리 a E 6.에 대하여 2<<· ~a>.,,aaE >> Z 이 면 A 를 대 수적 으로 정 수이 다 (al g ebra ic all y i n t e g ral) 라고 한다. (3) >.(t!R) 도 R 이고 임의의 a E 6.+에 대하여 2 • << a>.,,aa >> 츠 °

이 면 ,\룰 지 배 적 이 다 (do minan t) 라고 한다 . 정리 2.2.2 G 를 연결이고 반단순인 긴밀 Lie 군이라 하자. 또 G 가 단순연결인 Lie 군이라고 가정하자. G 의 기약표현들의 동치류들의 집합을 C 으로 표시하고, 지배적이고 해석적으로 정수인 A E (t C)* 들 의 집합을 r 로 표시하기로 하자. 그러면, G 와 r 사이에 일대일 대 옹관계가 존재한다. 구체적으로 말하자면, 71,\ E G 에 TA 의 최고 무 게(hig hes t weig h t) A 를 대응시킨다. TA 의 최고 무게 A 는 아래의 성질 을 지니고 있다. (1) A 는 순서에 의존하지 않으며 단순시스템 II 에만 의존한다. (2) dim Vi = 1 (3) 임의의 a E 6+ 에 대하여 E 。 · Vi = 0 이다. 실은 V 의 원소 중 에서 K 의 원소들만이 이러한 성질을 갖는다. (4) 71,\의 무게 µ는 µ = A-I: l=1n 沿i ,n i E z+ U {O} 의 형태이댜 유의 2.2.3 G 를 긴밀 Lie 군이라 하자. 그러면, JGd 9 = 1 인 Haar 측도 d g가 존재한다. 임의의 G 의 표현 (1r,V) 는 유니터리 표현과 서 로동치이다. 이유는 아래와같다 V 상에 내적 < , >을 취한후, V 상 에 새로운내적(u, v) := L< 1r(g) u , 1r(g )v > dg, u, v E V G 를 정의한댜 그러면, ( ' )는 표현 군의 작용에 불변이므로 (1r,V) 는 G 의 유니터리 표현이다 보조정리 2.2.4 >. E tit이고 A # 0 이라고 하자. 그러면 A 가 지배 적이 되게 하는 단순시스템 II 가 존재한다.

중명 tit의 기저 {'P l=A, 'P 2,··· , 'P l} 을취한후 2 .4절에서와같이 순서를 정의한다. 그리고 단순시스템 IT 를 선택하면 A 는 지배적이다. ■ 정리 2.2.2 의 중명 우선 대응관계가 존재함을 증명하겠다. (1r,V) 를 G 의 기약표현이라 하자. 유의 3.2.3 에 의하여 T 를 유니터리 표현 이라고 가정해도 무방하다 . d1r : g - End(V) 는 7r 의 미분사상이고 d1r 를 U( gc) 의 표현으로 확장할 수 있다. A 를 d1r 의 최고 무게라고 하 자. 그러면 A 는 해석적으로 정수이다. a E 6.+이면 -X +a 는 d1r 의 무 게가 될 수 없음을 유의하고 임의의 벡터 v E VA 에 대하여 d1r(Ea)v E Vi+a , Ea E 9a, a E 6.+ 이므로 d1r(E0 )v = 0 이댜 따라서 (3) 의 첫번째 주장을 증명하였다. 7r 가 기약이므로 임의의 벡터 v E V, v -/= O 에 대하여 d1r(U(gc ))v = V. 1::,.+ := {,1,12,··· ,'Y n} 이라 두고 H1,··· ,H1 을 t C 의 기저라고 하자. PBW 정리에 의하여 단항식 E~/1 ••• E~\. H1I ••• H/' E 싶 • • •E ;;: , i1 ,··· ,in,· ·· ,k1, ·· · ,knEz+U{O} 들은 U( g c) 의 기저를 이룬다. v의 벡터 v(# 0) 를 취한다. 그러면, d1r(E-,Jv = 0, d1r (파) v = A(Hi) iiv, V = L Vµ , d?T (E--,k ) V E V>.--,k µ:무게

이므로 Vi = Cv 이댜 따라서, (2) 를 증명하였댜 dn (E~11 • • • E~ \,, Hf 1 • • • H/' E~:; • • • E~:: ) Vi C V,\- I ::•= • ; j ,. j (2.2.2) 이므로 (2.2.2) 형태의 벡터들은 V 를 생성한다. 그러므로, d1r 의 무게 는반드시 X-LiJ 'Yj, i1 ,··· ,in E z+ U {O} j= l 의 형태이어야 한다. 따라서, (4) 와 (1) 을 증명하였다. 이제 (3) 의 두번째 주장을 증명하겠다 . 먼저, 벡터 v E V - Vi.가 촌재하여 임의의 뿌리 a E ^+에 대하여 d1r(E0)v = 0 이라고 가정하 자. V = Lµ: 무개 Vµ (단, Vµ 는 v;,의 성분임)에서 岭의 성분 v 갑률 제거 함으로써 V,\ = 0 이라고 가정해도 무방하다 . {µIVµ i: 0} 중에서 가장 큰 무게를 I/라고 하자. 그러면, 임의의 Q E 스 + 에 대하여 d1r(E0)vv = 0, d1r(tc ) vv ~ Cv,, 이므로 v = 두 Cd1r (E~,J ·· ·d 1r (E~• -y ,.) v,, (2.2.3) 이댜 (2.2.3) 의 오른쪽에 있는 벡터들의 무게는 무게 A 보다 엄격하 게 낮으므로 A 가 d1r 의 무게라는 사실에 어긋난다. 끝으로 ,A 가지배적임을증명하겠다 .a E 6+ 에 대하여 H: , E:, Ea 는 이미 정의하였댜 Fa := C H,誌 BCE:EBCE~0 는 Lie 대수 s[(2,C) 와 동형임을 이미 언급하였다 H 詐는 h := ( ; \ )에 대응된다. v # 0 인 V E Vi.에 대하여 d1r (E~0t d1r (H:t d1r (E:t v, p, q, r E z+ U {O} 의 형태의 원소들에 생성되는 V 의 부분공간 %는 s((2,C) 의 작용에 불변이다. 즉, 임의의 X E .s l(2,C) 에 대하여 d1r(X)Vo 드 Vo. %는

d1r (E~a Y , p E z+ u {O} 에 의해 생성되는 V 의 부분공간과 일치함 을유의하라. d1r (E~0) %는 d1r(H~) 의 고유 벡터이며 이의 고유값은 (A _ pa ) (H실 := 2<< a.X~,, aa >> -2p. drr(H실 의 고유값 가운데서 가장 큰 것은 2 < .X, a > / < a,a > 이 댜 sl(2, > 츠 0. 따라서 , A 는 지배적이다 . 대응관계가 일대일이라는 것을 증명하기 위해 (1r,V) 와 (1r',V') 을 G 의 기약표현이라하고이들의 최고무게를 A 라고하자.그리고 d1r 와 d1r' 은 군가 T' 으로부터 얻어지는 U( t C ) 의 표현이라 하자. Vo 와%를 각 각 d1r 와 d1r' 의 최 고 무게 벡 터 라고 하자. vo =I= 0, vb =I= 0 라고 가정 한 다그러면, S := (drr EB d1r') ( U(gc ) ) (vo EB vb) 는 U( g의의 기약 부분표현임을 증명할 수 있다. 이것의 층명은 독자 에 게 남겨 두겠다. 투사사상 p : S ------+ V 는 표현 d 군가 교환하며 p =/= 0 이다 (d1rEBd1r',S) 와 (d1r,V) 는 기약이므로 Schur 의 보조정리에 의 해 두 표현은 서 로 동치 이 다. 같은 방법 으로 (d1rEBd1r', S) 와 (d1r', V') 도 역시 서로 동치임을 보일 수 있다 . 따라서 (1r,V) 와 (1r',V' )은 서로 동 치이댜 마지막으로, 지배적이고 해석적으로 정수인 .X E (t C)’ 은 G 의 어떤 기약표현 TA 의 최고 무게임을 종명하겠다. G 가 반단순이고 단순연 결이므로 해석적으로 정수인 .X E (t C)' 들의 집합과 대수적으로 정수

인 µ E (t lC)' 들의 집합은 일치한다. A E (t c)’ 을 대수적으로 정수이다 라고 하자. 보조정리 2.2 .4에 의하여 A 가 지배적이 되게 하 는 단순시 스템 IT 를 취할 수 있다. 2.3 절에서 A 를 최고 무게로 갖 는 g의 기약표 현을 구체적으로 소개하겠다 . 이것으로서 정리 2.2.2 의 증명을 완전 하게 끝낸다. • 2.3 Verma 모듈 G 가 반단순 긴밀 Lie 군이라 하고 g를 G의 Lie 대수라고 하자. 그 리고, ). E (t C)' 올 지배적이고 대수적으로 정수이다라고 가정한다. 이 절에서는 A 를 최고 무게로 갖는 g의 기약표현을 구체적으로 만들어 소개하겠댜 g으 U(gc ), tlR := it, tC, 6, W 는 앞절에서 소개 한 것과 동일하댜 止 위에 순서를 고정시키자. 그러면, 이 순서는 양의 뿌리들의 집합 A+ 와 단순시스템 II= {a1,··· ,a,} 울 결정한다. n+:= 드 區 aeA+ n-: = E g_ a, oEA+ 8b: =:= ; t E드B 記 ,a aEA+ 라고 놓자. 이제 복소벡터공간 V(# 0) 가 왼쪽 U( g c)- 모듈이라고 가 정하자. 그리고 µ E (t C)' 에 대하여 Vµ :={ v E V I Hv =µ (H)v, vH E tc }

라고 정의한댜 만일, u, # 0 이면 µ를 V 의 무게라고 하며 Vµ 룰 µ에 대한 무게공간이라 한다. u, 의 원소를 무게 µ인 무게벡터 (we ig h t vec­ t or) 라고 부론댜 뿌리 a E 스와 µ E (t C)’ 에 대하여 go ( v;i) 도 v;,+ o (2.3 . 1) 임 을 쉽게 알 수 있다 . 벡터 v( -f; 0) 가무게벡터로서 n+v=0 의 조건 을 만족하면 v 를 V 에 대 하여 최 고 무게 벡 터 (hig h est weig h t vec t or) 라 고 부른다 그리고 최고 무게벡터에 의해 생성되는 U( g c)- 모듈을 최 고 무게모듈 (h ig hes t weig h t module) 이라고 한댜 보조정리 2.3.1 M 을 U( gc) 에 대하여 최고 무게모듈이라고 가정 하자. 또 v 를 M 을 생성하는 최고 무게벡터라고 하고 A 를 v 의 무게 라고 가정 하자. 그러 면 다음의 성 질 (1), (2), (3) 이 성 립 한다. (1) M = U(n-)v. (2) M = LµE(tc ) ' Mµ, dim cMµ < (X) 이 고 d i me 止 = 1. (3) M 의 무게 µ는 µ = A -E !=l n i야, ai E Il, ni E z+ U {0} 의 형 태이댜 중명 (1) PBW 정리에 의하여 U(!Jc ) = U(n-)U(tc ) U(n+). 그런데, U(tc ) v ~ Cv, U(n+)v = 0 이므로 M = U(gc ) v = U(n-)v. (2)+(3) : gc( LMµ) 다 LMµ 이므로 1: Mµ 는 왼쪽 U( g c)- 모듈이

댜 L+ := b1, · · · ,%}이라 하자. (1) 과 (2.3 . 1) 에 의해 아래의 벡터 E~')l .•. E 선%, j1, • • • , j,, E z+ U {O} (2.3.2) 는 무게벡터이며 무게 µ는 µ = A -E [ = l J. k% 로 주어진다 . 따라서, (3) 을 증명하였댜 무게 µ = >. —L~ = l j玉'Y k 를 갖는 (2.3.2) 형 태의 백 터의 개수는 유한이므로 dim M11 < oo. 무게 A 를 갖 는 (2.3.2) 형 태의 벡터의 개수는 한 개이므로 dim M.x = 1. 따라서 (2) 를 증명하였다• 이제 Verma 모듈의 개념을 설명하겠댜 먼저, M 군} M2 를 복소벡 터공간이라하고 A 와 B 는항등원소를 지닌 복소결합적 대수 (com p lex assoc iat i ve al g ebra) 라고 가정하자. 또, M1 을 오른쪽 B- 모듈이라 하 고 M2 를 왼쪽 B- 모듈이라고 가정하자. 게다가 M1 을 왼쪽 A- 모듈로 서 (am1)b = a(m1b) (단, a E A, b E B, m1 E M1) 의 조건을 항상 만 족한다고 가정하자. D 를 m1b®m2 -m1 ®bm2, 단, m1 E M1, m2 E lvl2, b E B 의 형태의 모든 벡터들에 의해 생성된 M1®cM선 부분공간이라고 정의한다그리고, Ml ®B 島 := M1 ®c M2 /D 으로 정 의 한다. 그러 면, Ml ®B M2 는 왼쪽 A- 모듈이 된댜 ). E (t lC) * 를 먼저 취하자 . 복소수 z E C 에 대하여 Hz := (A -8 ) (H)z, vH E tC Xz := 0, vX E n+

이라 정 의하면 C 는 왼 쪽 U(b) -모 듈 이 된다 . 이 U(b) -모듈을 CA-5 로 표시한다 . 우리는 다음의 모듈 V(>.) := U(gc ) ® u(b) C,x _r, (2.3.3 ) 를 Verma 모듈이라고 한다. 정리 2.3.2 (1) V(>.) 는 U( g 의 에 대하여 최고 무게 모듈이며 1 ® 1 에 의하여 생성된다. 1 ® 1 의 무게 는 A _ 6 이다 . (2) 사상 : U(n 기 —-; V(>.) 는 ( u) := u(l ® 1), u E U(n-) 으 로 정 의되 는 사상이라 하자 . 그러면, t는 단사사상이다. (3) M 을 무게 A - 6 를 지닌 최고 무게벡터 v(# 0) 에 의하여 생 성되 는 모 듈 이라고 가정하자. 그러면 cp( l ® l) = v 의 조건을 만족하 는 준동 형사상 cp : V(>.) __, M 이 유일하게 존재한댜 硏는 전사사상 이다 . 그리고, 사상 ¢가 단사사상이기 위한 필요충분조건은 임의의 u E U(n- ) ,u I 0 에 대하여 u(v) # ()인 것이다 . 이 정리의 증명은 쉬우므로 독자에게 남겨두겠다. 정 리 2.3.3 ,\ E (t C) * 에 대하여 V(,\)+ := L V(,\)µ µ# A -6 라고 정의한다. 그러면 , V(>.) 의 진부분 U( g)-모듈은 반드시 V(>-)+ 안에 포함된댜 모든 진부분 U( g)-모듈들의 합 K 는 진부분 U( g c)- 모 듈이다 . 그래서, L(>.) := V(.X) /K (2.3.4 ) 는 기약인 U( g c)- 모듈이다. 게다가 L(>.) 는 최고 무게모듈이며 무게

는 A-8 이다. 중명 N 이 V(>.) 의 진부분 U( g c)- 모듈이라고 하자. 그러면 N = I:µ(N nV(>.)µ), 정 리 2.3.2 에 의 하여 dim V(>.).x -& = 1 이 고 V(A)A - J는 V(>.) 를 생성하므로 NnV(>.).x _r, = 0 이댜 그러므로, N ~ V(>.) + 이고 K 다(>.)+ 도 V(>.). L(>.) 가 기약이란사실은 자명하다. L(>.) 안에서 의 1®1 의 상은 영벡터가 아니고 L(>.) 의 최고 무게벡터가 된다는 사 실을 쉽게 알수 있다 . 이의 최고무게가 A-6 라는사실은 명백하다 .• 정리 2.3.4 ,\ E (tic)*가 지배적이고 대수적으로 정수이다라고 가 정하자. 그러면, L(,\+6) 는 g의 기약표현이며 유한차원의 벡터공간 이댜 그리고 L( -X +6) 의 최고 무게는 A 이다. 중명 정리 2.3.3 에서 L(A+o) 는 최고 무게 A 를 지닌 최고 무게모 듈이란 사실을 증명하였다. V>.(=f = 0) 를 L(A+o) 의 최고 무게벡터라고 하자.그러면, {1) 임의의 단순뿌리 a 에 대하여 E%vA = O (단, n » 0). (2) L(A+o) 의 무게들의 집합 r>. 는 Wey l 군 W 의 작용에 불변이 댜 즉, w(r>.) = r>-. 상(3)기 r의>. 는 ( 1유), 한(2집), 합(3)이 에 고 대 d한im 증 L(명A 은+ o생) <략 하oo겠. 다. •

2.4 Wey l 지 표공식 이 절에서 G 는 단순연결이고 반단순인 긴밀 Lie 군을 나타낸다. T 를 G 의 극 대 토러 스 라고 하자 . 그리고, Nc(T) := {g E G I gT g - 1 = T}, Zc(T) := {g E G I gt = tg, '

정리 2.4.l(Wey l 적분공식) G 를 단순연결이고 반단순인 긴밀 Lie 군이라 하자. 그러면 , dµ(t) = Jw J -1J D (t) J2 dt, D(t) := ~5(t) I 10 et::, .+ (l -~ 0 (t)) (2.4 .2 ) 이다 여기서, 8 := E 已 aEA 」 a 이고 6 : T 一一 언은 미분사상이 A 인 T 의 지표를 나타낸다 그리고, d t는 T 상의 정규 Haar 측도 이다. 이 정리의 증명은 V. S. Varadarja n [28] 을 참조하라. 정리 2.4.2(Wey l 지표공식) G 를 단순연 결 이고 반단순인 긴밀 Lie 군이라 하자. TA 를 최고 무게 A 를 지닌 G의 기약표현이라고 가 정하자 . 그러면, TA 의 지표 XA 는 x.x (t) = D(t) -1 L (det w )(w(M5 )(t) , t E T (2.4 .3 ) wEl l' 로주어진다. 중명 R(T) 를 T 의 지표틀의 Z 일차결합들로 이루어진 고리 (r i n g)라 고 하자. W 는 R(T) 위에서 w6(t) = 6(w-1t) = ~마(t), w E W, t E T 와 같이 작용한댜 지표 f E R(T) 가 임의의 w E W 에 대하여 wf = f이면 f를 우지표 (even charac t er) 라고 한다 . 지표 f E R(T) 가 임의 의 w E W 에 대하여 wf = (de t w) f이면 f를 기지표 (oddchara cter) 라 고 부른댜 그러면, 아래의 사실을 쉽게 보일 수 있다. (1) X1r 를 G 의 표현 (1r,V) 의 지표라고 하자. 그러면, X1r E R(T) 이 고 X1r 는 우지표이다 . (2) D(t) E R(T) 이고 D( t)는 기지표이다.

(3) 두 우지표의 곱은 우지표이고, 두 기지표의 곱도 우지표이다. 그리고, 우지표와 기지표와의 곱은 기지표이다 . (4) 임의의 원소 µ E t i 은 W 의 작용에 의하여 지배적인 원소와 공 액이다. (5) µ E t 궁 가 임의의 a E 6 에 대하여 < µ,a >i 0 이라고 가정하 자 . 그러면, 임의의 w(f 1) E W 에 대하여 wµ f µ. 이제 , n(g) := Tr1rA( g) 를 표현 TA 의 지표라고 하자. 그러면 , XA(t) D(t) E R(T) 이고 이것은 기지표이다. XA(t) D (t) = 두 n 說µ (2.4 .4) /l 라고 놓자. (3 .4 .4) 에 w E W 를 적용시키면 (det w)x.x (t)D (t) = L nµ~wµ (2.4 .5 ) µ 가 된댜 (3 .4 .5) 에 de t w 를 곱하면 X>.(t) D (t) = Ln,,(de t w) 노 (2.4 .6 ) µ 그러므로 IWlx.,\(t )D (t) = 꿀 ~ nµ(det w)~wµ· (2.4 .7 ) (2.4 .4)와 (2 .4 . 7) 에 의 하여 麟 VV|nµ& = : [ 표도 ,(de t w) ] <µ 의 관계식이 성립한다 . 그러므로, !W inµ = L nw- iµ det w. (2.4 .8 ) WEW r

이것으로부터, 임의의 w E W 에 대하여 n11 = nw- iµ det w (2.4 .9 ) 의 관계식을 얻는다 만약, 어떤 wo(# 1) E W 에 대하여 Wi jlµ = µ라 하면, (5) 에 의하여 어떤 a E 6 에 대하여 < µ,a >= 0. 그러므로, Soµ = µ. (2.4 .9 ) 에 의 하여 nµ = n5 갚 µde t s 。 = -nµ 이므로 nµ=0 이댜 Q := {미 < µ,a >-/= 0, 'a E 6} 이 라 놓으면 (2 .4.4)는 x(t) D (t) = L nµ~µ (2.4 .1 0) µE!1 로 쓸 수 있다 µ E !1는 양의 시 스템 {이 < µ, a >> 0} 에 대 해서 만 지배적이기 때문에 wµ 가 지배적이게 하는 w E W 가 기껏해야 하나 만 존재한다. 그런데, (4) 에 의하여 그러한 w E W 가 적어도 한 개 존 재한다. Q+ :={ 기< µ,a >> 0, 'a 갑 } 이 라 놓으면 (3.4 .4) 또는 (3 .4 . 10) 은 禪 )D( t) = L L nwµ~ 呼 (2.4 .1 1) µE0+WEW 로 다시 쓸 수 있댜 (2.4.9) 에 의하여 x,(t)D (t) 홑µ (표 (d et w)ew,) • (2.4 .1 2)

TA 는 기약표현이므로 [ IX A (x) j2 dx = 1 이다 . 정1리 = [2 .4 .I1 X에A (의x) 해12 dx = h( [ I XA(g tg- 1) 12 dg ) dµ(t) = £1 XA(t) 12 dµ(t) =I w 1-l £1 XA(t) D (t) 12 dt. T £ 다시 말하면, lx.x (t)D (t) l2 dt = 1w1. (2.4 .1 3) T 우리 는 (2 .4 .12) 와 (2 .4 .13) 으로부터 LIn 記 =1 (2.4 .1 4 ) µEf l+ 의 관계식을 얻는다. nµ(µ E Q + )는 정수이므로 어떤 l/ E Q+가 존재 하여 nu = 士 1 이고 µ # l/인 µ E Q에 대하여 nµ = 0 이다. 그러므로, 우리는 X>.(t) D (t) = 士 L(detw )~wv (2.4 .1 5) wEW 의 관계식을 얻는다. (2 .4 .15) 의 양변에서 g A+6 의 계수룰 비교하면 (2.4.15) 의 우변에서의 부호는 ‘+'이어야 하고 v = >.+8 임을 보일 수 있다. X>.(t) = D(t) - 1 L (detw )~w(>.+~)(t) . • 따라서, wEW 따름정 리 2.4.3(Wey l 분모공식 ) D(t) = wLEW (det w )~w6(t) . (2.4 .1 6)

중명 Wey l 지표공식 (2 .4 .3) 에 A = O 을 대입하면 xo (t) = 1 이 므로 (2 .4 .16) 을 얻는다 • 정리 2.4.4(Wey l 차원공식) G 를 단순연결이고 반단순인 긴밀 Lie 군이라 하자. TA 를 가장 높은 무게 A 를 갖는 G 의 기약표현이라 하자. 그러 면 TA 의 차수, 즉 d>. := dim 7r>. 는 d.x = l1al1 ea6 e+6 <+ <). +8, 8a , a> > (2.4 .1 7) 로주어진다. 증명

(µ(exp H ). 죽, o(cp ) eµ (exp H) =< µ, cp > eµ (exp H) , H E t. (2.4 .1 9 ) 이제, N>.(t) := L (det w )ew(>.+a)(t) , t E T (2.4 .2 0 ) wEW

라고 놓자. d,\ = X.\(l) 임 을 유의 한다 . 그런 데 , N-\(1) = D(l) = 0 이 므 로 X-\(1) = §의 형 태이댜 X.\(l) = Ii mH 一 oX.\(ex p H) 의 극한값은 존 재하므로 로피탈 정리를 이용하여 이 극한값을 구한다. 이러한 이유 로 (2 .4 . 18) 에 언급한 미분작용소 8( cp)를 소개하였다. a+ := IIoEb .' 8(a) (2.4 .2 1) 라고 놓자. 8 홀 N>,(ex p H) 와 D(ex p H) 에 적용하면 8 따 (ex p H) = 8+ (~(detw )!cw (W)(ex pH )) wEW 홀 (de t w) 낸 < w(A + 0), a >) {.(,\표)(exp H) ((2 .4 .19) 에 의 하여 ) 홉, (de t w-1) 낸+ < >.+o,w-'a >) lw(A+ o )(ex pH ) = 꿀 낸+ < A + 6, a >) ew(A+6) (exp H) (정=리 (1.E 5 .4 에< 의A하+여6),a >) 꿀〈 w(W)(ex p H). 이고 TD(exp H ) = 8+ ( 표 (de t w)e.,( exp H) ) 홉 (de t w) ( .IT. < wO, a >) e.,(exp H)

=(E 갑 ,a >) 표 e,,,( exp H). 따라서, 이댜 X>.(1) = d,x = lim y _ o{+),+NDo,x( (e exxp p~ H H)) = l1ol1eo6e. +6 . <+ >•

제 3 장 비긴밀군의 구조 3.1 선형연결군 군 G 가 실행렬 또는 복소행렬들의 집합으로 임의의 원 g E G에 대하여 항상 염도 역시 G 의 원일 때 G 를 선형 연결 reducti ve 군(linear connecte d reducti ve grou p ) 이 라 한댜 군 G 가 선 형 연 결 reducti ve 군 으로써 이의 중심이 유한군일 때 G 를 선형연결 반단순군이라고 한 댜 이제, G 를 선형연결 reducti ve 군이라 하고 g를 G 의 Lie 대수라고 하자. 사상 8:G 一국 G 는 8(g) :=t 9 1, g E G 라고 정의되는 G 의 자기동형사상이다. e 를 Cart an 대합변환 (~volu­ ti on) 이 라고 한다. G 의 부분군 K := {g E G J 8(g) = g } 는 G 의 극대 긴밀부분군임을 쉽게 보일 수 있다. O 를 항등원 1 에서

의 e 의 미분사상이라고 하자. 그러면, X E g에 대하여 0(X) = —tx . 02 = Id 이므로 0 의 고유값은 1 과 -1 뿐이다. r :={ x E 9 I e(X) = x, 즉, X = _l)[ } p :={ X E g I 0(X) = -X, 즉, X =I 첫 } 라고하면 g=tEB p (3.1. 1) 로 주어지는 소위, g의 Cart an 분해를 얻는다. 0 : g ----t g는 자기동형 사상이므로 [t, t_] 다, [t, p] g p, [p, p] 다 (3.1. 2) 이다 특히 t는 g의 부분대수이며 군 K 의 Lie 대수이다 g에 대 한 트레 이 스 형 식 Bo : g x g _ C 는 Bo(X,Y) := Tr(XY), X,Y E g (3.1. 3) 로정의된다그리고, B0((adX)Y,Z) = 흡(Y, (adX)Z), X,Y,Z E g (3.1. 4) 임을 쉽게 보일 수 있다. Bo 의 실수부분 ReBo : g x 9 __. C 는 대칭 쌍선형 형식이며 (3. 1. 4) 를 만족한다. X = A + B E g (단, A E t, B E p)이 면 B0(X,0X) =Bo(A+B,A-B) = -Tr(A 영 +B 땅) 이므로 B0(X, 0X) < 0, X =fa 0, X E g. (3.1. 5)

그래서, Bo 와 ReBo 는 g X g 위에서 비퇴화이다 . ReB 。는 t상에서 는 음부호이고 p상에서는 양부호이다. 그리고, t와 p는 ReBo 에 대하 여 서로 수직이다. (3 . 1. 5) 에 의하여 < X,Y >:= -ReB0(X,Y), X,Y E g (3.1 . 6) 로 정의되는 <,>: g x g ---+ R 은 내적이다. 임의의 X E g에 대하여 ad 0(X) = —(a d X)* (3.1. 7) 이다 . g의 Ki lling 형식 B : g x g - 0. (3.1. 9) 자연수 n 에 대하여 GL(n,C ) :={ g E M(n,C ) I detg -/= 0 }, SL(n,C ) :={ g E GL(n,C ) I detg = 1 }, SO(n, C) :={ g E SL(n,C ) I gtg = En }, Sp (n , C) :={ g E SL(2n, C) I tgJng = Jn }, Sp ( n, JR) :={ g E Sp ( n, C) I P 는 실수행 렬 } 이라정의한다. 단, Jn =(_0二 ) 실수체 R, 복소수체 C, 4 원수환lH[상에서 정의되는 에르미트 형식 lzl|2 + , . ' + lzmI 드 |zm+1|2 _ ••• — |Zn+ml2

에 대한 선형등장사상군(li near iso metr y grou p)을 각각 SOo(m,n), SU(m, n), Sp ( m, n) 으로 표기 한댜 끝으로, so·(2n) ={ g E SU(n,n) 口 ( E

그리고 [g,g]는 반단순 Lie 대수이다. 정리 3.1. 2 G 가 선형연결 reducti ve 군이라고 하자. 그러면, a(k,X) := kexp X , k E K, X E p 로 정의되는 사상 a : K x p --G 는 미분동형사상이다 단, K 는 앞 에서 언급한 G 의 극대 긴밀부분군이다. 상기의 두 정리에 대한 증명은 독자에게 남겨두겠다. 3.2 Iwasawa 분해 G 를 선형연결 반단순군이라 하고 g = t EB p를 Cartan 분해라고 하 자 ((3. 1. 1) 참조). 앞절의 기호를 이 절에서 그대로 사용하기로 한다. a 를 p의 극대 가환부분공간이라 하자. g상의 내적 < X,Y >:= -ReB0(X,0Y), X,Y E g 에 대하여 adZ( 단 ,Z E p)는 대칭변환이다. 왜냐하면, (3. 1. 7) 에 대하 여 ad0(Z) = -adZ = -(adZ)* 이기 때문이다. 그러므로 ada := {adXI X E a} 는 대칭변환들로 이 루어져 있기 때문에 동시에 대각화될 수 있다. 임의의 선형함수 >-E a* 에 대하여 9>. :={ X E g I [H, X] => .(H)X, vH E a } (3.2.1) 라고 하자. A # 0 이 고 gA # 0 일 때 A 를 (g, a) 의 제 한된 뿌리 (restr ict e d roo t)라 하고 g A 를 (g ,a) 의 제한된 뿌리공간 (res t r i c t ed root s p ace) 이

라 한다 E 를 (g ,a) 의 모든 제한된 뿌리들의 집합이라 정의한다. 명제 3.2.1 제한된 뿌리와 이의 제한된 뿌리공간은 아래의 성질 울갖고있다 (1) g = go @ EAEE gA· (2) [9>., 9µ] 드 gA +p (3) A E L 이면 0g A = g _A 이댜 그러므로, A E L 이면 _A E L 이 댜 (4) A,µ E L 이고 A I-µ 이면 g A 와 gµ는 < , >에 대하여 수직이 다 . (5) 9o = a EB m (직 합). 단, m :={ x E r I [x, a] = 0 } . 1. 4 절에서와 같이 a 의 쌍대공간 a* 위에 순서를 정의한다. 그러면, 이 순서는 양의 제한된 뿌리들의 집합 E+ 를 결정한다. n:= 두 gA (3.2.2) AEE+ 라고 놓으면 n 은 정리 3.2.1(2) 에 의하여 g의 부분대수이다. 정리 3.2.2 G 는 선형연결 반단순군이라 하자. 그러면, g = eE B a EB n. (3.2.3) 여기서, n 은 멱영 Lie 부분대수이고 aEBn 은 가해적 부분대수이다. 게 다가, [a EB n, a EB n] = n. 중명 정리 3.2.1(2) 에 의하여 n 은 멱영 Lie 부분대수이다. 임의의 ). E I:에 대 하여 [(l, g>. l = g入 이 므로 [(l ® n, (l EB n] = n 이 고 (l ® n 은 가

해적 부분대수이다 . 정리 3 . 2.1(3) 과 (5) 에 의하여 g = a ® m ® : gA , 0(gA ) = g_A AEE 이므 로 임의의 X =/ 0, X E t에 대하여 X 의 m- 성분 m(X) =/ 0 이든 가 X 의 (EAE Eg _ A ) -성분 I:-(x ) =1 o 이다 왜냐하면, m(X) = 0 이고 I:-(x ) = o 이면 X=O 이기 때문이댜 따 라서, tE B aE B n 은 직합이댜 임의의 원 X E g는 (3.2.3) 에 의하여 X = H + Xo + 두 XA, H E a, Xo E m, XA E 9A 의형태로쓸수있댜그리고, X ={ Xo + A~(X-A + OX-A) } +H+ { A~(XA -OX-A) } 이 므로 X E t EB (lx E_B. ,n\ 이+ 다0X. _따.,\ 라E 서t, , Xg. ,=\ _ t 0®X a_ .®,\ En. g.,\ • 보조정리 3.2.3 Lie 군 G 의 Lie 대수 g가 두 개의 g의 부분대수 s 와 t의 직합으로 주어진다고 가정하자. 즉, g = s ® t. S 와 T 를 Lie 대수 5 와 t에 대응되는 Lie 군이라 하자. 그러면, : S x T 一 G, ( s, t) := st, s E S, t E T 로 정의되는 사상은 모든 곳에서 정칙이다. 중명 (so, to) E S X T 에서의 t의 미분사상 d 는 d ( X) = A.d ( 갑 ) X, d ( Y) = Y, X E s, Y E t (3.2.4) 의 성질을 만족한다. (5.2 .4)는

( soexp rX, to) = so(exp rX)to = sot o e xp (Ad(to 1 )rX), ( so, to exp rY) = s0 t。 exp rY, r E IR!, X E s, Y E t 의 관계식으로부터 얻어진다. 그러므로 , det( d ) = ~ddeet t A Add(r( tt감0 1) ) = ~ddeett A Addr((tto o) ) i 0. 여 기 서 , AdT 는 t상에 서 의 T 의 수반사상 (ad j o i n t map) 이 다 따라서 , (so, t o) 에서 t는 정칙이다 (so, to) E SxT 는 임의이므로 사상 는 모든 곳에서 정칙이다. • 정리 3.2.4(Iwasawa 분해) 선형연결 반단순군 G 에 대하여 A 와 N 을 Lie 대수 a 와 n 에 대응되는 G 의 부분군이라 하자. 그러면, A, N, AN 은 단순연결이고 연결인 닫힌 부분군이다. 그리고, K x A x N 一 G, (k, a, n) t---t kan (3.2.5) 으로 정의되는 곱사상은 미분동형사상이다. 중명 A,N,AN 은분명히 단순연결이다 .AxN-AN, (a,n) 曰 an 으로 정의되는 곱사상은 coo 전단사사상이다. 그러므로 보조정리 3.2.3 에 의하여 이 곱사상은 미분동형사상이다. 그리고, AnzG = {다임을 유의하라. 여기서, ZG 는 G의 중심을 나타내고 있다. K x AN —+ G, (k, an) .-kan (3.2.6) 으로정의되는곱사상온 COO 이다 .K 는긴밀이고 AN 은닫혀 있으므 로 곱사상 (3.2.6) 의 상은 G 의 닫힌 부분집 합이 다. 정 리 3.2 . 2 와 보조 정리 3.2.3 에 의하여 사상 (3.2.5) 는 미분동형사상이며 전단사사상이 다. •

b 를 m 의 극 대 가환부분공간이 라 하자. u := ~ EB ip라고 놓자. 그러 면, h := b @ i a 는 u 의 Ca rt a n 부분대수이댜 6 := 6(uc, !J c ) 룰 h C 에 대한 U C 의 뿌리 들 의 집합이라고 하자. 그러면 , gC = UC = IJC EB I: Ua aE6 . 이다 그 리고, gA = gn { Ct\ } , mc = bc ® > UC t GEA etla =O 그러므로, 제한된 뿌리 .X E a * 는 ala = .X, a E 6 의 형태이다. Iwasa wa 분해는 p의 극대 가환부분공간과 E 안에서의 E+의 선택 에 의 존한 다 다음의 정리는 Iwasawa 분해의 의문점을 풀어주고 있 다 . 정 리 3.2.5 p = ukEKAd(k)a. 구체 적 으로 a 와 a1 이 각각 p의 극대 가환부분공간이 라 하면, 어 떤 k E K 가 존재하여 Ad(k) = a = a1. 중명 E := A(a : g)와 I:1 := 6(a1 : g)를 a 와 a1 에 대한 제한된 뿌 리들이 집합이라 하자. 임의의 ). E I:에 대하여 >.(H) f= 0 인 H E a 를 취한다 또, 임의의 µ E I: 1 에 대하여 µ(H1) f= 0 인 H1 E a1 을 취한 댜 K 가 긴밀이므로 함수 ¢ : K-+IR ¢(k) :=< Ad(k)H, H1 >= Re Bo(Ad(k))H, H1), k E K 는 k = ko 에서 최소값 ¢(k0) =< Ad(ko)H, H1 >을 갖는다 임의의 XE t에대하여함수 1/J(t) :=< Ad(exp tX ) Ad(ko)H, H1 >, t E JR

은 coc 이고 t = 0 에서 최소값을 갖는댜 그러므로, 임의의 X E e 에 대하여 0 = ~d lt= D< Ad(exp tX) Ad(ko)H, Hi > t= O =< [X, Ad(ko)H], H1 >=< [Ad(k0)H, H], X > . 따라서 , [Ad(ko)H, H1] = 0. 만일 , 9~1) :={ X E 1J / [X, a] =0 } 라고 놓으면 Ad(ko)H E p n 1J伊 = a1 이 댜 왜냐하면, Ad(ko)H = Xo + L Xµ, 단, Xo E g\1 ), Xµ E gµ µEE1 라고 하면 0 = [Ad(ko)H, H1] = -Lµµ(H1)Xµ 이므로 모든 Xµ = O(µ E L1) 이댜 그러므로 Ad(ko)H = Xo E g~1 ) n p = a1. 즉, H E Ad(ko)-101. 그리고 Ad(ko)-1a 는 가환부분공간이 기 때문에 [Ad(kot 1 a,H] = 0 이어서 Ad(ko)-101 ~ pn {lo = a 임을 쉽게 보일 수 있댜 단, {lo := {X- E-gl{a, X] = O}. 왜냐하면, Y E Ad(ko)-1a, Y = Yo + LY>., Yo E 9o, Y>. E 9>. >.EE 라고 하면 0 = [Y,H] = -~AEEA(H) y A 이므로 모든 YA = 0 (A E E) 이다 따라서, a 와 a1 의Y 극 =대 Y성o 에E g o의 n하 p여 = aa1, =Ad A(kd0(k)-o1)aa1. ~ a, Ad(ko)a 드 a1. •

3.3 정칙원, Wey l 방과 Wey l 군 a * 상의 순서 는 멱영 부분대수 h 를 결정하기 때문에 lwasawa 분해 는 a * 의 순 서의 선택에 따라 변한다. 이 절에서는 이 순서들을 분석 하여 E 가 추 상적 뿌리시스템임을 보이고 n 은 또다른 n’ 과 공액임을 증 명하 겠 다 . < , >:= ReBo(·, -)는 a 상의 내적임을 기억하라 . µ E a * 이면 H1, E a 를 µ(H) = Re Bo(H, H1,) =< H, Hµ >, H E a (3.3 . 1 ) 로 정의한다 그리고, a * 상에 내적 < , >를 < µ, v >:= µ(Hv ) = v(H사 =< Hµ, Hv >, µ, v E a* (3.3.2) 으로 정의한다 a 의 원 H 가 임의의 A E E 에 대하여 >.(H) -/= O 이면 H 를 정칙원 (re g ular elemen t)이라고 한다 정칙원들의 집합 따온 공 집합이 아니며 열린 부분집합이다. 다의 연결성분들을 We y l 방 (cham­ ber) 이라고 한댜 임의의 뿌리는 각각의 Wey l 방에서 고정된 부호를 가지기 때문에 Wey l 방은 a 안에서 열린 볼록추 (convex cone) 이댜 명제 3.3.1 사상 I: + 一 { H E a I .X( H) > 0 ,x E L + } 는 양의 시스템들의 집합에서 a 안의 Weyl 방들의 집합으로 보내는 전단사사상이다 . 중명 양의 시스템 E+ 가 있다고 하자. C : = { H E a I .X( H) > 0 V_ x E L 가

라고 놓자. 그러면, C 는 Wey l 방이란 사실을 쉽게 알 수 있다. C 의 정 의로부터 L+ I--+ C 는 일대일 사상임을 알 수 있다 . 역으로, C 를 Wey l 방이라고 하자 . C# 0 이고 >.(H깁 > 0 이댜 따라서, 임의의 ). E I:+는 H1 에 서 양수값을 가지므로 C 상에서의 양수값을 가진다. 즉, C 는 E+의 상 이다. • 명제 3.3.2 .X를 제한된 뿌리라고 하고 EA # 0, EA E g A 라고 하 자. 그러면, 아래의 성질 {1)-(4) 가 성 립한다. {1) [E>.,0E>.] = ReBo(E>.,0E>.)a 려고 ReB0(E>.,0E>.) < 0. (2) 惡 HA+REA+ROEA 는 g의 부분대수이며 s[{2, 惡)과 동형이다. (3) E>. 가 ReBo(E>.,0E>.) = -21 -X l-2 이 되도록 정규화되어 있다고 하자. 그러 면, k := exp ~(E>. + 0E>.) 는 NK(a) 의 원소이 며 Ad(k) 는 a* 상에서 반사변환 S>. 로 작용한다. (4) I:는 a* 안에서 추상적 뿌리시스템이다. 중명 (1) [EA,0EA] g [gA ,g _A ] 도 g o 이고 0[E>., 0E 시 = [0E>., E 시 = -[E>., 0E 시 이므로 [E>.,0 .E사 드 p n9o :::::: a 이다 임의의 HE a 에 대하여 < H, [E>.,0E 시 >= ReBo(H, [E>.,0E 시)

= ReBo([H,E 시 ,0EA) = A(H)Re B0(EA, 0EA) =< H,ReBo(EA,0EA)HA > 이 므로 [EA, 0E 시 = Re Bo(EA, 0EA)HA. 그리 고, EA = XA + YA( 단, XA E t, YA E p)일 때 0(X) = _tJ(룰 이용하여 ReBo(EA,0EA) < 0 임 을 쉽게 알수 있다 . (2) Hl := 問2 따-- E-~• := 而2 EA, E~A := 0EA 라고 놓으면 (1) 에 의 하여 [HL E~] = 2E~, [Hl, E~Al = -2E~A' [E~, E~Al = Hl. 그러므로 H\ ~ h := (E ~_ ,~~l f) : =, ~( ~~ n e := ( ~ ~ ) , 와 같이 대응시키면 (2) 의 주장을 증명할 수 있다. (3) 먼저, (국 (EA + 0EA)) (i(EA + 0EA)) = -½1r2Hi , (a 담 (EA + 0EA)) Hi = 국 (EA -0EA), 다 (EA + 0EA)) 2 Hi = -1r2Hi

을쉽게계산할수있다그리고 Ad(k)H~ == tearl 紅 ~(EA)+0:EA:)2Hm~ H ; + : (_(12):+;\\\+1 (EA _ 0EA) m=O ' -, m= O = (cos7r)H 仁 (sin 7l ')( EA _ 0EA) = _H;. H E Hf 라 하면 >.(H) = 0 이므로 (ad HE.x + 0E.x )) H = 0. 그래 서 Ad(k)H = H. 또, 임의의 H E a 에 대하여 Ad(k)H = H -~ 2>1>.(-1HH2 ) .x = s_x ( H). 따라서, k E Nx(a) 이고 Ad(k) 는 a* 안에서 반사변환 sA 로 작용한다. (4) I:가 a* 룰 생성한다는 사실은 자명하다. 왜냐하면, 만일 임의 의 µ E I:에 대하여 µ(H) = O( H E a) 이면 [H,gµ ] = O(vµ E I:)이므 로 H E Z9 = 0 이기 때문이다 여기서, Z g는 g의 중심이다. g의 부분 대수 惡 H .x +惡恥 +印 0EA 브 s[(2, 恥)은 g상에서 ad 변환으로서 작용 하며, X E gµ에 대하여 [H~,X]=~X. .s [(2, 良)의 표현이론의 결과에 의하여 무게 뜹蓋오는 정수이다 . 끝 으로, 임의의 >.,µ E I:에 대하여 s,x (µ) E I:임을 보이겠다. k := exp ! (E.x + 0E .x)이라 두고 H E a, X E 9µ 이라고 하면, 임의의 HE a 에 대하여 [H, Ad(k)X] = Ad(k)[Ad(k)-1H, X] = Ad(k)[s;1( H ), X] = µ(검 (H))Ad(k)X = (s.x µ) (H)Ad(k)X 이므로 Ad(k)X E 9sAµ 이고 gSA µ # 0 이다 따라서, sAµ E E 이댜 •

NK(a) := {k E K I Ad(k)a 도 a}, ZK(a) := {k E K I Ad(k)H = H, H E a} 라고 정의한댜 그리고, W(A : G) := NK(a) / ZK(a) 로 정의한댜 군 W(A : G) 를 Wey l 군이라 한다 M := ZK(a) 라고 놓 으면 M 은 긴밀군이며 이의 Lie 대수는 m = Z~(a) := {X E t I [X, H] = 0 vH E a} 로주 어진다. 보조정리 3.3.3 b 를 m 의 극대 가환부분공간이라고 하자. 그러면, 임의의 원소 g E NI < (a) 는 g = zn, z E ZI< ( a), n E NI< ( a EB b) 로분해된다. 중명 이의 증명은 독자에게 남겨두겠다. ■ 정 리 3.3.4 W(A : G) 는 E 의 Wey l 군 W( I:)와 같댜 증명 우선 W(A : G) 가 Wey l 방울 교환시 킨다는 사실을 인지 한 댜 명제 3.3.2(4) 에 의하여 E 는 추상적 뿌리시스템이므로 E 의 Weyl 군 W( I:)는 잘 정 의 된다. 명 제 3.3.2(3) 으로부터 A E E 이 면 S.,\ 는 W(A : G) 의 원임일 알 수 있댜 그러므로, W(I: ) 드 W(A : G) 이댜 정리 1. 5.1 과 명제 3.3.2 에 의하여 W( I:)는 Wey l 방들의 집합상에서

단일하게 (s i m p l y) 추이적으로 작용한다 따라서 W(A : G) 의 자명하 지 않는 원은 Wey l 방을 안정 (s t able) 시키지 않는다는 사실만 증명하 면 된댜 즉, 임의의 원 w E W(A : G), w -# 1 과 Wey l 방 C 에 대하여 wC#C 임을 보이면 된다는 것이다 . 명 제 3.2.1(1) 에 의 하여 NK(a) 의 Lie 대수는 m 이 다 . NK(a) 와 Z(a) 는 똑같은 Lie 대수 m 을 지니고 긴밀부분군이기 때문에 W(A : G) 는 유 한군이댜 W(A : G) 의 원 w 가 Wey l 방 C 를 안정시킨다고 가정하자. 즉, wC =C. 가령, wn = 1 이라 하자. 먼저 C 의 원 Ho 를 취한 후 1 n-1 H1 := n~ Lk=wO kHo 라고 두자. 그러면, H1 은 C 의 원이며 wH1 = H i이다. k 를 K 안에서의 w 의 대표원이라 하자 , 보조정리 3.3.3 에서처럼 k = zn, z E ZK(a), n E NK(a EB b) 로 쓸 수 있댜 그러면, Ad(n) E NK(aEB i b) 이고 Ad(n)H1 = Hi 이댜 g의 긴밀형 태 (com p ac t fo rm) 인 u 의 Carta n 부분대수 h 가 존재하여 a®i b = hR = ih 이댜 긴밀군인 경우 해석적 Wey l 군과 대수적 Wey l 군은 일치한다. 그러 므로 Ad(n) 은 Wey l 군 W(fJc : uC) 의 원 이 댜 정 리 1. 5.5 에 의 하여 Ad(n) 은 H1 울 고정시키는 반사사상 (re fl ec ti on) 들의 곱이댜 이 반사 사상들은 Ad(Mo) 안에서 대표원을 갖는댜 그러므로 n 은 Mo 의 원소 들의 곱으로 나타내어지며 ZK(aEB i b) 의 원이다. 따라서, n E Z(a) 이 고 k E Z(a) 이므로 w = l 이다. 죽, W(I: ) = W(A : G). ■

3.4 KAK 분해와 Bruhat 분해 이 절에서는 G 를 선형연결인 반단순군이라고 가정한다. 보조정 리 3.4.1 k E K, a, a' E A이 고 kak-1 = a’ 이 라고 가정 하 자 . 그러면 , koako1 = a' 인 ko E NK( a.)가 존재한댜 중명 %(a') := {g E G I ga ' = a' g}는 닫힌 Lie 부분군이 며 e 의 작 용에 불 변이댜 그러므로, ZG(a’) 의 항등원소 성분은 선형연결이 며 (reduc ti ve) 이 댜 %(a’) 의 Lie 대수는 Z9(a') :={ X E g I Ad(a')X =X } 로 주 어 진 댜 그런데 a 와 Ad(k)a 는 %(a')n p의 극대 가환부분공간이 댜 정 리 3 . 2 . 5 의 증명과정에서와 같은 방법으로 Ad(k1)Ad(k)a = a 가 되 도록 하는 k1 E K n Zc(a' )을 선택할 수 있댜 그러면 ko := k1k E NK(a) 이고 k 。 ako1 = k1kak-1k 갇 = k1kk- 1a 'kk-1k11 = k1a'k11 = a'. ■ 정리 3.4 .2 (KAK 분해) 임의의 원 g E G 는 g = k1ak2, k1, k2 E K, a E A (3.4 .1 ) 와 같이 주어지는 분해를 가진다. (3.4.1) 의 분해에서 a 는 W(A : G) 의 멤버 (member) 의 공액을 무시하고 유일하게 정해진댜 만일, a E A 가 a = e xp H( 단, H는 정칙원임)의 형태로 주어진다고 가정하면 k1 은 M 멤버의 오른쪽 곱을 무시하고 유일하게 정해진다 .

증명 (1) 존재성: g를 G 의 Lie 대수라고 하고 g = t ® p 를 g의 Carta n 분해라고 하자. 그러면 K x p 一 G, (k, X) 一 k • exp X 는 미분동형사상임을 알 수 있다 . 그래서 G 의 분해 G = K · e x pp와 공액정리 3.2.5 의 P = Uk EK Ad(k)a 로부터 G의 분해 G = KAK 를 얻 을수있댜 (2) 유일성 : k1ak2 = k3a*k 4 , k1, k2, k3, k-1 E K, a, a* E A 라고 가정하자. k' := k31k1, k = k 2 k 7 1 이라 두면 k'ak = a * 이기 때 문 어] (k'k)(k-1ak) = a* 이댜 분해 G=K • ex pp의 유일성에 의해 k'k = l, k-1 a k = a* 이댜 그러므로 보조정리 3.4.1 에 의하여 koak 計 = a* 이 되도록 하는 ko E NK(a) 가 존재한다. a = a*, a = exp H( 단, H 는 정칙원임)라고 가정하자 . 그러면 k-1ak = a 임을 보였다. G 의 분해 G= K•ex pp의 유일성에 의해 Ad(k 크 )H= H 이댜 H 는 정칙원이므로 H 의 중심화 대수 g o 는 go = a® m

으로 주어진다 그러므로 p 안에서의 H 의 중심화 대수는 a 이다. 즉, a = {X E p I [H, X] = O} . 따라서 , p 안에서의 Ad(k t 1H 의 중심화 대수는 Ad(k t 1a 이다. 그 런데 Ad(kt 1H = H 이므로 Ad(kt 1a = a 이댜 그래서 k E NK(a) 이 고 Ad(k)H = H 이기 때문에 정리 3.3 .4에 의하여 k 는 M 의 원임을 알 수 있다. k'k = l 이므로 k' 은 M 의 원이다. 끝으로 k31k1 = k' 이므 로 서은 k3lvl 의 원이 댜 • G의 부분군 M 은 lvI := ZI< ( a) ={ k E K I Ad(k)H = H vH E n } 로 정의되었음을 상기하라. M 은 G 의 긴밀부분군이며 임의의 m E M 에 대하여 Ad(m)a = a ('

3. 5 Lang la nds 분해 Lie 대수 g의 세 부분대수 m,a,n 이 주어져 있다고 하자 . .s := m EB a EB n (직 합) (3.5.1) 이라 하자 . m,a,n 이 아래의 세 조건 (1), (2), (3) 을 만족한다고 하자. (1) a 는 아벨 Lie 대수, n 은 멱영 Lie 대수이고 [m,n] ~ n, [a,n] ~ n 인 관계가 성립한다 그리고 m,a,n 은 내적 < X, Y >:= -ReB 。 (X,0Y) 에 대하여 서로 직교한댜 (2) m EB a = s n 0s. (3) a = p n Zma ,a • 여기서, ZmE B a := {X E .9 I [X,m EB a] = O}. 이 때 분해 (3.5.1) 을 s 의 Lang la nds 분해 라고 한다. 이제 A := a 에 대응되는 실해석적 Lie 군, N := n 에 대응되는 실해석적 Lie 군, Mo :=m 에 대응되는 실해석적 Lie 군, M := ZK(a)Mo. 라고정의하자.그러면 (1) 아래의 사상 M x A x N —• S := MAN, (m,a,n) f--t man 은미분동상사상이다.

(2) Mo 은 선형연결인 reducti ve 군이며 이의 중심은 긴밀군이댜 (3) eN n MAN = {1} 임을 쉽 게 보일 수 있다 . S = MAN 은 G 의 포물적 부분군이댜 S 의 분해 S = MAN 을 S 의 Lang la nds 분해라고 한댜 3.6 Wey l 적 분공식 증명 없이 아래의 유용한 정리를 소개하겠다. 정리 3.6.1 G 를 선형연결인 reduc ti ve 군이라 하자. Ql • .. ,Q r 울 비 공액인 (noncon j u ga t e) 0- 불변 Carta n 부분대수들의 극대집합이라 하 고 Hi ,··· ,Hr 을 각각 이들에 대응되는 Ca rtan 부분군이라 하자. 각 각 Hj 와 G/Hi ( l ~ j ~ r) 상에 la f(x )dx = [/Hi Li f(gh )dhd(G/Hj) , f E Cc(G) 의 관계가 성 립하도록 하는 정규화된 Haar 측도를 부여하자. 그러면 임의의 F E Cc(G) 에 대하여 LF(x)dx (3.6.1) G = : |W( 」j : G)| JG/H]XH J F(gh g- 1 )|DH}(h)|2dhd(G/Hj) 이댜여기서 DHj ( h) := &(h) Cu [ 1 一 &(h)-1l • h E H;

는 Wey 1 분자함수이다(단, 6+ := 6(~f : g의는 양뿌리시스템을 나 타낸다). (3.6.1) 을 Weyl 적 분공식 (int e g r a ti on fo rmula) 이 라고 한다

제 4 장 유도표현 이 장에서는 유도표현(i nduced re p resen t a ti on) 의 개념을 소개하고 Macke y의 비 원 시 성 정 리 (lmp ri m itivi t y Theorem) 를 설 명 하겠댜 이제, G 를 국소적으로 긴밀인 위상군이고 H 는 G 의 닫힌 부분군 이댜 G 와 H 가 아래의 두 성질 (I) 과 (II) 를 만족한다고 가정하자 . (I) G 와 H 는 모두 유니모듈러하댜 (II) 화이버속 G ----+ G/H 의 연속인 절단 (sec ti on) 이 존재한댜 (7rO 沮 o) 를 부분군 H 의 유니터리 표현이라 하자. 여기서, 1-l o 는 내 적 < , >o 를 갖춘 복소 Hil be rt 공간이 다. 다음의 두 성 질 (1) 과 (2) 를 만족하는 연속함수 : G --+ 1-l o 들로 이루어진 벡터공간을 V 라고 표시하자. (1) 임 의 의 h E H 와 g E G 에 대 하여 (gh ) = 1ro(h)( g)의 관계 식 이 성립한다. (2) 의 받침 su pp()는 긴밀집합 안에 포함된다 . d g와 dh 를 각각 G 와 H 상의 불변 Haar 측도라고 하자. 그러 면, 등 질공간 G/H 상에 불변 Haar 측도 dµ( 豆)가 유일하게 존재하여 임의 의 E Cc(G) 에 대하여 반드시

fc (g) dg = fc/H (l cp(gh )dh) dµ(x) 의 관계식이 성립한다. 이제아 ,, V 'I/ ;상 >에µ: =쌍 1선형 아형(식g )< , ,1 /;>(gI 를) > o dµ(g) , g E G, g = gH G/H 로 정의한다. 우리는 V 상에 새로운 G 의 표현 T 를 (1r(g )< />)(x) := cp( xg ), g, x E G, ¢ E V (4.1 ) 로 정 의 한다 V 의 완비 성 공간 (comp l e ti on) 을 H 라고 표시 한다 임 의 의 원 g E G 에 대하여 등장사상 1r(g) : V _----+ V 는 1-{상으로 선형 사상으로서 유일하게 확장된다 . 그러면 (1r, 1-l)는 G의 유니터리 표 현이 된다는 사실을 쉽게 보일 수 있다 . (1r, 1-l)는 H 의 유니터리 표 현 (1ro, 1-l o) 와 G/H 상의 측도 µ의 선 택 에 의 존하지 않는다는 사실 올 유의하라. (1r, 1-l)를 표현 (1ro, 1-l o) 에 의하여 유도된 표현 또는 (1ro, 1-l o) 에 연관된 유도표현(i nduced re p resen t a ti on) 이라 한다. 종 종, (1r, 1i) = Indi (1r o, 1io), 간단히 Indi 1ro (4.2 ) 라고적기도한다. 정의 4.1 X : H ― ➔ C1 를 H 의 유니터리 지표라고 가정하자. 이 t때i o n유) 이도라표고현 한In다d 유 x여 를기 서위,상 C군1 :=G 의{z 단E C항 표I 현lzl (=m oln}o. mi al rep r esenta - 아래의 유용한 정리를 소개하겠다. 중명은 독자에게 남겨두겠다.

정 리 4.2 G 와 H 는 상기 와 같댜 K 는 H 의 닫힌 부분군으로서 유 니모듈러하다고 하자. 게다가 화이버속 G - G/K 는 연속인 절단 을 지니고 있다고 하자. 만일, (1r1, 1£ 1) 이 K 의 유니터리 표현이라고 하면 Ind 웃 (1r1 , 1£1 ) ~ Indi ( Ind f (1r1 따) ) (4.3) 의 관계가성립한다. 이제 N 을 국소적으로 긴밀인 위상군 G 의 닫힌 정규가환부분군이 라고 하자. 그러면, N 의 Pontr y a g in 쌍대 N 는 균일수렴의 위상을 갖 추고 있으며, N 는 이 위상에서 국소적으로 긴밀인 가환위상군이 된 댜 N 은 내부자기동형 Ix (y f--t x y x-1) 의 작용에 의하여 불변이므 로 우리는 자연스럽게 정의되는 작용 O' : G x f.r-f.r O'(X , ii) := ii o Ix- 1, (x, ii) E G X N (4.4 ) 를 얻 는댜 간단히 , X • ii := O'(X , ii)으로 나타내 기 로 한다. 정리 4.3 N 을 국소적으로 긴밀인 위상군 G 의 닫힌 정규부분가 환군이라 하자. 그리고, 화이버속 G--+ G/N 은 연속인 절단을 지니 고 있다고 하자. 그리고, 忠와 g는 Pontr yag i n 쌍대 N 의 원소로써 작 용 (4 .4)에 의한 동일한 G 궤도 (orb it)에 포함된다고 하자. 그러면, Indg i 즈 Indg g 의 관계가성립한다 . 보조정리 4.4 N 은상기와같댜y EN 에 대하여 G,g :={ X E G I X • y = y } 을 9 의 안정화 부분군 (s t ab iliz er) 이라고 하자. 그러면,

(1) N ~ Gil . (2) 임의의 0 E N 에 대하여 자연스런 전단사사상 ag : G/Gg 一 ➔ G • y, xGg f--+ x · fJ 이 위상동형사상이 되기 위한 필요충분조건은 임의의 i) E N 에 대하 여 g의 G- 궤도가 N 의 위상부분공간으로써 국소적으로 긴밀인 것이 댜 증명 (1) N 이 가환군이므로 임의의 n E N 에 대하여 n · y = y이 다. 그러므로, N c G11. (2) 어떤 원 x, z E G 에 대하여 x·g = Z. g이면 (z-1x) ·y = f; 이므 로 z-1x E G11 이댜 그러므로, 사상 万六는 전단사사상이다 먼저 임의 의 g E N 에 대하여 파가 위상동형사상이라고 가정하자 . 그러면 g의 G- 궤도 G • g는 N 의 국소적으로 긴밀인 위상부분공간임을 쉽 게 알 수 있다. 이의 역도 손쉽게 보일 수 있다. • 보조정리 4 .4의 (2) 가 성립하는 경우 두 위상공간 G/Gv 와 G. g 를 동일시할수 있다 . 정리 4.5 G 를 유니모듈러하고 국소적으로 긴밀인 위상군이라고 가정하자. N 은 G의 닫힌 정규가환부분군이라 가정하자. 게다가 임 의의 ii E N 에 대하여 ii의 G- 궤도 G · ii가 N 의 위상부분공간으로써 국소적으로 긴밀이라고 가정하자. 그러면, 아래의 성질 (1) 과 (2) 가 성립한다. (1) 임의의 G 의 유니터리 기약표현 (1r, 1-l)에 대하여 성질 (*)를 만 족하는 유일한 G- 궤도 0 가 존재한댜 임의의 x E O 에 대하여 Gx 의 유니터리 표현 (1ro, 1-l o) 가 존재

하며 (*) 1ro (n) = x(n) · Id11. 0 , 11n E N 이고 Ind8/1r, 1 1.o ) 3:! (1r, 11.). (2) 0 를 N 의 G- 궤도라고 하자 . 임의의 x E O에 대하여 1ro(n) = x(n ) • Id11. 0 , vn E N 의 조건을 만족하는 G .i: 의 유니 터 리 기 약표현 (1ro, 1i o) 들의 집 합을 A 로 표시하고 G 의 유니터리 기약표현들의 집합을 B 로표시하자. 그 러면, 아래의 사상 A-B (7ro , 1io) 1------+ Ind8;, ( 1ro , 1io) 는 전단사사상이고 유니터리 동치관계에 의하여 분해된다 . 정 리 4.5 를 Mackey 소군정 리 (l\fac key Lit tle Group Theorem) 라고 한댜 G 와 N 은 정리 4 . 5 에서의 조건을 만족한다고 가정하자. 또, G 는 N과 G 의 닫힌 부분군 K 의 반직적이라고 가정하자. N 안에서의 G- 궤도 0의 원소 i를 일단 취하자. 이때 임의의 GxnK 의 유니터리 기 약표현 (1ro, 1i o) 에 대 하여 (x X 1ro)(kn) : = x(n) • 1ro(k), k E Gx n K, n E N (4.5) 이라고 두자. 그러면, xx1ro 는 G x 의 유니터리 기약표현임을 쉽게 알 수있댜

정리 4.6 G, N 과 K 는 상기와 같댜 (1r, 1{)를 G 의 유니터리 표현 이라고 하자. 그러면 , 아래의 성질 (3) 을 만족하는 N 안에서의 G- 궤 도 0 가존재한다. 임의의 x E O에 대하여, 적당한 G :i; nK 의 유니터리 표현 (7ro, 1-l o) 가 존재하여 (3) Ind8i ( x x 7ro, 1-lo) ~ (1r, 1-l) 이댜 정 리 4 . 5 와 정 리 4.6 의 증명 은 Macke y의 논문( Induced Rep re sen- tat i on s of Locally Comp a ct Group s I, Ann. Math . 55(1952), 101- 139 쪽)에 실려 있다 . 정리 4 . 6 을 Mackey 비원시성 정리라고 한다 . 주의 4.7 G 가 단순연결이고 연결인 멱영 실 Lie 군인 경우 를 생 각해보자. 이 경우 G 는 상기에 서술한 조건을 만족하는 부분 군 N 을 지니고 있다. 게다가 N 이 연결이면 화이버속 G ― ➔ G/N 이 연속인 절단을 갖는다는 사실을 보일 수 있다. N 상의 G의 작용뿐만 아니 라 N 의 Lie 대수의 쌍대공간상에서의 G 의 작용도 존재한다. 따라서, Macke y의 궤도적 분석 이론 (orb it al anal y s i s) 과 K i r ill ov 의 coadjo i n t 궤도이론사이에 연관성이 있다고볼수있다. 끝으로 Lie 군의 포물적 부분군이 표현으로부터 유도되는 G의 표 현을 간략하게 논하겠다. 우선, G= 선 형 연 결 reducti ve 군 P = MAN : 포물적 부분군 P 의 Lang la nds 분해 N=GN r+ : = N 에 관하여 (g ,a) 의 양의 뿌리들의 집합

p : = ½I :µer + (dim gµ) µ (u, vu)=M 의 유니 터 리 기 약표현 u :=(a*)C 의 한 원소 라고 하자 . 여기서 , 사상 0 : G ---+ G 는 G(g) := 녕 一 1 로 정의되는 Carta n 대합변환이고, g와 c 는 각각 G 와 A 의 Lie 대수이다. 분명히, u ® exp v ® 1 은 P = MAN 의 표현이댜 V 를 아래의 두 성 질 (1) 과 (2) 를 만족하는 함수 J : G ---+ VU 들의 집 합이 라 하자. (1) f : G — ➔ vu 는 연속이다 (2) f(gm an)= e- ( v+p )l og a u(mt lf (g), g E G, m E M, a E A, n E N. 복소벡 터 공간 V 상II f에 11노2:=옴 L (noIJr m(k) ) l2II dk||, 을 f E V K 로 정의한댜 여기서, K 는 G 의 극대 긴밀부분군이댜 이제, 우리는 새로운 G 의 표현 U(P, u, v i·)를 U(P, u, vlg )f(x ) := J(g-1 x), g, x E G, f E V (4.6) 로 정 의 한댜 V 의 완비 성 공간 H 를 표현 (U(P, u, 끼 • ), 1{)를 (P, u, v) 에 연관되어 있는 유도표현이라 한다. 때때로, U(P, u, 끼 • ) = Indi (u ® exp v ® 1) 으로나타내기도한다. 성질 1 만일, u®ex p v®l 이 유니터리이면, 유도표현 U(P, a-, vi· ) 는 G 의 유니터리 표현이댜

성질 2 P = MAN 은 G의 포물적 부분군 , Pi = M1A1N1 은 M 의 포물적 부분군이라 하자. 게다가 a 는 M려 유니터리 표현 , 1/1 E (어 )C, U E (a*)C 라고 하자. 그러 면, Ind 麟~ AN ( Ind~t A i N i (a ® exp v1 ® 1) ® exp v ® 1 ) 브 Ind?1 i(A 1 A )(N1 N )( a ® exp (v 1 + v) ® 1) 과 같은 자연스런 동치관계가 존재한다. 예 4.8 G =P S=LM(n, A(CN)라= 하{고( ; :J EG} 를 G 의 포물적 부분군이 라 하자 임 의 의 6 와 임 의 의 허 수(i ma gi nar y) 선형함수 U E (a*)C 에 대하여 유도표현 Ind i (cr ® ex p 11 ® 1) 은 G 의 유 니터리 기약표현이다.

제 5 장 허용표현 이 장에 서 는 G 를 선 형 연 결 reduc ti ve 군이 라 하고 K는 G 의 극대 긴밀부분군이라 가정한다. G의 유니터리 기약표현들의 동치류 (e qui valence class) 들의 집합 을 유니터리 쌍대 (un it ar y dual) 라고 하며, 이룰 보통 G 의 기호로 표 기한댜 K 의 원은 항상 K 의 유한차원의 기약표현이댜 (1r, V) 가 G 의 표현이라 하자 단, v 는 Hi lbe rt 공간이다 벡터 V E V 가 있어, 집합 1r(K)v := {1r(k)v I k E K} 가 유한차원의 벡터공간을 생성할 때, V 를 K- 유한 (K- finit e) 이라고 한댜 이제부터는, 표현 (1r, V) 를 K 에 국한한 K 의 표현을 (1riK , V) 로 표기하기로 한다. 그러면 Pete r -Wey l 정 리 에 의 하여 7rlK ~ LnTT (5.1) TEK 로 쓸 수 있댜 여기서, nT 는 음이 아닌 정수 또는 무한수이다. (5 . 1) 에 서 나타나는 정 수 nT 를 표현 T 의 중복수 (mul tiplicity)라고 한다. 끼 K 의 분해 (5.1) 에서 nT > 0 인 경우, 표현 T 를 군의 K- 타입 (K- typ e) 이라고

한다 (,, VT) E k 가 곧의 K- 타입이라고 하면, 임의의 벡터 V E VT 는 K- 유한이란 사실을 쉽게 알 수 있다 그러므로 K- 유한벡터 들 의 집 합 R 는 V 안에서 조밀 (dense) 하댜 정 의 5.1 G 의 표현 (1r, V) 가 아래 의 두 조건 (Al) 과 (A2) 를 만 족 할 때, (1r, V) 를 G 의 허용표현 (adm i ss i ble re p resen t a ti on) 이라고 한 댜 (Al) 임의의 k E K 에 대하여 1r(k) 는 항상 V 상의 유니터리 작용 소이댜 (A2) 1rlK 의 분해 (5 . 1) 에서 모든 중복수 n T 가 항상 유한인 정수이 댜 허용표현 (1r, V) 를 간단히 허용적이다 (adm i ss i ble) 라고도 한댜 정리 5.2 (1r, V) 가 G의 유니터리 기약표현이라고 하자 . 그러면, 임의의 T E K 에 대하여' 7r 의 분해 (5 . 1) 에서 n T 츠 dimc T 의 조건이 항상성립한다 . 중명 G 의 중심은 스칼라로서 작용하기 때문에 G 를 반단순군이 라고가정해도좋다. 주장 1 r E k 이고 n > dim r 라고 가정하자. 그러면, 표현 nT 는 순회 벡 터 (cy cl i c v ec t or) 를 갖지 않는다. 중명 nT = T ® In 이 라 쓰자. 여 기서 , (In, Vn) 온 K 의 n 차원의 자 명한 표현이다. nT 가 순회벡터 wo E V- r ©Vn 을 갖는다고 가정하자 .

d := dim T, {u1, • • • , u 야를 VT 의 기저라고 하면 Wo = ui ® vi + · · · + ud ® Vd, Vi , • • • , Vd E Vn 의 형태로쓸수 있다 . H := spa n{v1, • • • , vd} ~ Vn 이라 놓자. 그러면, (T ® ln)(K)wo ~ Vr ® H ~ Vr ® Vn, 이것은 Wo 가 순회벡터라는 사실에 모순이다. 따라서, nT 는 순회벡터 를갖 지 않는다. 주장 2 를 G 의 유한차원의 기약표현이라 하고 |K= I: nrT 라 고 가정하자 . 그러면, nr ~ dim T. 중명 G = KAN 을 lwasawa 분해라고 하자. vo(i- 0 ) 를 가해군 AN 의 작용하의 고유벡터라고하자 . ®는기약이므로 Vo 는순회벡터 이다 Vo 롤 nTT 위에 투사하여 얻은 벡터는 nTT 의 순회벡터이다. 그 러므로, 주장 1 에 의하여 nr :S dim T. 자연수 r 에 대하여 Sr 을 r 문자의 대칭군이라고 하자. r > 군(단, n 은 자연수)이면 L(sgn c )X0(1) .. • X0(r) = 0, X i, .. • , Xr E Mn(C ) (5.2) cESr 임을 쉽게 알 수 있댜 여기서, Mn(C) 는 n x n 복소행렬들의 벡터 공간이다 T(n) 을 모든 X E Mn(C) 에 대하여 (5.2) 가 동일하게 영 이 되게 하는 수 T 중에서 가장 작은 정수라고 정의한다. 그러면,

r(n) 츠 r(n —1) + 2 의 관계 가 성 립 함을 쉽 게 보일 수 있다 . 주장 3 r E k, d : = dim r, x : = r 의 지 표, 만 := 政라고 하자. 그러면, e := 1J1 *K Cc (G ) *K 1J1 는 (Cc(G), *)의 부분대수이고 (5.2) 가 r := r(d2) 에 대하여 성 립한 댜 여기서, * 는 합성작용소 (convolu ti on o p era t or) 이댜 중명 G 의 유한차원의 표현들의 행렬계수 들 의 일차결합들의 집 합 C 는 공액에 대해 닫힌 집합이다. 또, C 는 점 들 을 분리한다. Sto n e- Weie r str a ss 정리에 의하여, 임의의 f(# 0) E Cc (G) 에 대하여, 적절 한 유한차원의 기약표현 가 존재하여 (f) # 0 이다. T := T(#) 에 대하여 (5.2) 가 성 립하지 않는다고 가정하자. f = L(sgn c )fi :(1 ) * • • • * f0(r ), r = r(d2) EE S, 을 6 의 영이 아닌 함수라고 하자. 그러면, 0 표(f) = L(sgn £) (fe(l )) • • • (f,:( r)), (5.3) CESr G='¥ *K Cc(G) *K '¥이므로 ( 6) = ( w) ( Cc(G)) ('11). (5.4 ) 여기서, ®(만)는 至의 K 터입의 표현공간상으로의 직교투사사상이 다. 이 부분공간의 차원은 #보다 작거 나 같다 . (5 .4)에 의 하여

주장 4 7r 가 G 의 유니터리 기약표현이고 7r|I( = E T nTT 이라고 가 정하자 . 그러면, nT 츠 dim T. 중명 W- r 를 nTT 의 표현공간이 라고 하자. E := 1r( \J!)를 WT 상으로 의 직 교 투사사상이 라고 하자. 주장 3 에 의 하여 (5 . 2) 는 r = r(#) 에 대하여 대수 E1r(Cc( G ))E 안에서 성 립한다. V 의 변환들로 이루어진 위상 공간을 L(V) 로 표기한댜 1r(Cc (G) )는 L(V) 안에서 강하게 조 d밀i m 하 므W r 로 츠 EE1 r이(C므c (로G) n) 추E 는 dLim( W T-. r ) = E L(V) E 안에서 강하게 조밀• 하댜 그 러므로 (5.2) 는 r = r( 沿)에 대하여 L(W- r) 안에서 성 립한댜 정 리 5.3 S = MAN 을 G 의 포물적 부분군 S 의 Lang la nds 분해 라고 가정하자. 그리고 u 를 M 의 유니터리 기약표현이라 하고 u 는 (a * ) C 의 원이라고 가정하자. 그러면, 트리플 (S,6,u) 에 연관되어 있 는 유도표현 U(S, u, v) := Indj (u ® ex p v ® 1) 은 G 의 허용표현이다. 중명 임의의 k E K 에 대하여 U(S, u, v)(k) 는 유니터리 작용소이 댜 Ki := KnM 이면, 정리 5.2 에 의하여 er IK1= L nw w, 0 족 nw < oo. wEK1 정의에 의하여 U(S, o-, v) IK= Ind~10 - = L nw Ind 싸 IW wEK. 1

임을 쉽게 알 수 있댜 만일, T E K 이면 [U(S, u, v) IK: r] = L nw [ Indt w : T ] 0EKl = L nw [rlK, : w]. wE K1 마지 막 등호관계 는 Frobeniu s 상반법 칙 에 서 얻 을 수 있다. 모두 n w 가 유한이므로 우변은 유한이다. • 이제, COO 펙터의 개념을 상기하자. (1r, V) 를 G의 표현이라고 하 자. 벡터 VEV 가 있어, 아래의 사상 '1>v : G 一 V, '1>v (9 ) := 1r(g) v , g E G 가 COO- 사상일 때, 벡터 v 를 7r 의 coo_ 벡터라고 한다 . 硏의 COO- 벡터들 의 집합을 coo( -rr)로 표기한다. 정리 5.4 (-rr, V) 가 G의 허용표현이라고 가정하자. 그러면, 임의 의 K- 유한벡터는 COO 펙터이고, K- 유한벡터들의 집합은 -rr(g)의 작 용에 불변이다. 여기서, g는 G 의 Lie 대수이다. 중명 f를 K상의 K- 유한함수라고 하고 h E C훈 (ex p p)라고 하자. 그리고 ,F : G 一 ➔ c 를 F(k · exp X ) := f(k ) h(exp X ), k E K, X E p 라고 정의한다. 그러면 F E C 훈 (G) 이고 임의의 V E V 에 대하여 1r(F玉)v 는) c1oro(_F 벡)v 터 = 이 L G댜 F (x) 1r(kox)v dx = JLG F (k 計 x)1r(x)v dx

일 뿐만 아니라 F 가 K- 유한이기 때문에 1r(F)v 는 K- 유한이다 그래 서, C OO 인 K- 유한벡터들의 집합은 V 안에서 조밀하다 군의 K- 타입 의 표현공간들은 서로 직교하기 때문에 각각의 K- 타입 COO- 벡터들 의 집합 VI홍 는 K 터입 벡터들의 집합 VK 안에서 조밀하다 7f가 허용 표현이기 때문에 dim VK < oo 이어서 VK 의 임의의 벡터는 COO 이다 v 를 K- 유한백 터 라고 하고, vv := T(U( t의 )V 라고 두자. X E e, Y E g, v' E Yi,에 대하여 1r(X)1r(Y)v' = 1r(Y)1r(X)v' + 1r[X, Y]v' 이므로 T( g )VV 가 생성하는 벡터공간은 T( t)의 작용에 불변이다. 이 공간은 유한차원이므로 1r( g )Vv 는 1r(K) 의 작용에 불변이댜 임의의 y E g에 대하여, 1r(Y)v 는 1r(K) 의 작용에 불변인 유한차원의 벡터공 간에 포함되며, K- 유한벡터이다. • G의 허용표현 (1r, V) 는 자연스럽고 유일하게 VK 상에 g의 표현 (1r, Vi()를 제공한댜 G 의 두 허용표현 (1r, V) 와 (1r', V' )으로부터 얻 어지는 g의 표현 (1r, VK) 와 (1r', Vk) 가 대수적으로 동치일 때, G의 두 허 용표현을 무한소적 으로 동치 (infinites im ally e qui valen t)라고 한다. g는 G 의 Lie 대수라고 하자. 쌍선형사상 C : g x g -----+ 惡을 C(X, Y) := ReTr(XY), X, Y E g 로 정 의 한다. {X1, • • • , X 갑을 g의 기 저 라고 하고, 9ii := C(Xi, Xi ) 라 두자. C 는 비퇴화이기 때문에 (9 ij)는 가역행렬이다 . (9 ij)의 역행 렬을 (gij)로 표기 하자. xj := E 9ij 泣 l 입 ~ n 이라놓으면 xi = Lj 9ii xi, l :::; i :::; n

이댜 복소 Lie 대수 gc := g ®

임의의 xEG 에대하여 Ad(x)O = I: C(Xi, Xi ) Ad(x)Xi • Ad(x)Xi = Li, j C(Ad(x)-1Xi, Ad(x)-1Xi ) Ad(x)Xi • Ad(x) Xi = Li, j C(X;, Xj ) Xi • Xi t, j =0. 두번째 등호관계는 C의 불변성으로부터 얻으며, 세번째 등호관계 는Q는g의 기저의 선택에 무관하다는사실로부터 얻는다 .Ad(x)O= O(x E G) 로부터, 임의의 X E g에 대하여 임을 쉽 게 보일 수 있다 . 따라서n,x n= Ex Zn( g 의. • 이제, G의 허용표현의 K- 유한행렬계수가 실해석적 함수임울 증 명하겠다. 구체적으로 설명하면 다음과 같다. 정리 5.6 (11', V) 를 G 의 허용표현이라고 가정하자. 그리고, u E V 룰 K- 유한벡터라고 하자. 그러면 임의의 V E V 에 대하여 행렬함 수

fu,v : G 一 C, fu,v ( g) := (1r(g )u , v) , g E G 는실해석적 함수이다. 중명 X E g를 G 상예 정의된 좌불변 벡터장이라 간주할 수 있다.

그러면, Xf u,v == Xft( 1lrt(= gD ) (u ,1 rv(g) • exp tX )u, v ) = ft l ttt===ODO ( 1r(exp tX )u, 1r(g) * v ) = (1r(X)u, 1r(g) * v) = (1r(g )1 r(X)u, v). 이 관계식을 계속 반복하여 사용하면, 우리는 D(1r(g) u , v) = (1r(g )1 r(D)u, v), vD E U(if ) (5.6) 의 관계식을 얻는다. 일반성을 잃지 않고, u 는 군의 K- 타입 (T, VT) 의 원이라고 가정할 수 있댜 Schur 의 보조정 리 와 보조정 리 5.5 에 의 하여 , K 의 Ci3 .5im i r 원 따는 VT 상에서 상수 다로 작용한다. 그러므로 VT 상에서 T(Q K ) = g. 보조정 리 5.5 로부터 임 의 의 k E K 에 대하여 G 의 Casim ir 원 Q는 n . 1r(k) = 1r(k) . n 의 관계식을 만족한다는 사실을 알 수 있다. (1r, V) 가 G 의 허용표현 이기 때문에 dim Vr < oo. 그러므로 VT 상에서 ITn (1r(n) 一 Cj ) = 0 (5.7) j= l 의 조건을 만족시키는 상수 C1, ••• ' %이 존재한다. < X, Y >:= -C(X, 0Y), X, Y E g 와 같이 정의되는 쌍선형사상 < , >: g x g -ffi.은 내적이다. 여기 서, 0 : g--t g는 0(X) := _tJ[ (X E g)로 정의되는 사상임을 상기하

라 (3.1 절 참조). g = t EB p를 g의 Carta n 분해라고 하자. {Xi }를 t의 정규직교기저라 하고 {Y2} 를 p의 정규직교기저라 하자 . 그러면, 정의 에 의하여 Q = —E x? + EY12, %=-〉차 이댜그래서, n -2nK = L 차 + I: Y;2 는 G 상에 정의되는 타원형 미분작용소이댜 그리고, D := Hn { (Q -2 %) + (2 e -C j ) } j= l 도 역시 타원형 미분작용소이댜 (5.6) 에 의하여 Df u,v = ( 1r(g) Dn , [1 r(!1 ) -1 r(2 !1K ) + (2 c.,. - Cj ) ] U, V ) j= l = ( 디(g) }n] ( 1r(n) -C j ) U, V ) = 0 (·: (5.7) 에 의 하여 ). 상기의 두번째 등호는 VT 상에서 1r(nk) = C,.이라는 사실로부터 얻어 진댜 Df u,v = 0, D 는 타원형 미분작용소이고 D의 계수는 G 상에서 실해석적 함수이므로 행렬계수 fu ,v 는 실해석적 함수이다. • 정리 5.7 (1r, V) 가 G 의 허용표현이라고 가정하자. VK 를 K- 유한 벡터들의 집합이라 하자. U 를 VK 의 집합으로 g의 작용에 불변인 부 분벡터공간이라고 하자. 그러면, u의 폐포 (closure) U 는 G 의 작용에

불변이다 중명 임의의 g E G 에 대하여 1r( g)는 유계인 작용소이므로 1r(G)U 됴 汀임을 증명하기만 하면 된다. U 의 원 u 를 고정시키고 v 를 U J_ 의 원이라고 하자 . 정리 5.6 에 의하여 행렬계수 (1r(g )u , V) 는 G 상에서 실 해석적 함수이다. Tayl o r 정리에 의하여, 충분히 작은 X E g에 대하 여 (1r(exp X )u, v) = t. ~ xn(1r(x)u, v) lx= e = 亡 갑 (1r(Xt u, v) ('.· (5.6) 에 의하여) n= O = 0 (·: 1r(Xt u E U) 이댜 그러므로 행렬계수 (1r(g )u , V) 는 항등원 e 의 근방에서 영이 된 댜 (1r(g) u , V) 는 G 상에서 실해석적 함수이기 때문에 G 의 모든 곳에 서 영이 된다. u 와 v 는 임의이기 때문에 1r(G)U ~ V. ■ 따름정리 5.8 (1r, V) 가 G 의 허용표현이라 하고 VK 룰 K- 유한벡 터들로 이루어진 V 의 부분공간이라 하자. 그러면, 1r(G) 가 자명하지 않은 닫힌 V의 불변부분공간을 갖지 않을 필요충분조건은 1r( g)가 자 명하중지명 않독은자 V에K 게의 남불겨변 두부겠분다공.간 을 갖지 않는 것이다. • 따름정리 5.9 (1r, V) 와 (1r', V' )은 G 의 허용기약표현이며 공통 인 자명하지 않은 K- 유한행렬계수를 지니고 있다고 가정하자. 그러 면 示와군은 무한소적으로 동치이다.

중명 VK 와 峰 룰 각각 V 와 V 안에서의 K- 유한벡터들의 집합이 라고 하자 . 가정에 의하여 적당한 벡터 u, V E VK 와 어, v/ E Vk 가 존 재하여 (1r(g )u , v) = (1r'(g) u 1, v'), g E G 이댜 VK := U(gc ) (1r(g) u , v) c C00(G) 라고 두자. 따름정 리 5.8 에 의 하여 1r(U(g) ) u = VK. 그러 므로, (5.6) 에 의하여 Vj~ = (1r(g) 1r(U(gc )u, v) = (1r(g )V K, v). 사상 cp : VK ― ➔ Vj尉를 cp( 1r(D)u) := (1r(·) 1r(D)u, v), D E U(gc ) 로 정의한댜 cp( VK) = VK 임을 쉽게 알 수 있댜 (5.6) 에 의하여 임의 의 D, D' E U( gc) 에 대하여 cp( 1r(D)1r(D')u) = cp( 1r(DD')u) = (1r(·)1r(DD1) u, v) = (1r(·) 1r(D)1r(D')u, v) = D(1r(·)1r(D')u, v) 이댜 T 가 기약표현이므로 kercp = 0. 그러므로, cp는 동형사상이다. 같은 방법으로, 우리는 동형사상 cpI : Vk 一 ➔ v; 롤 얻는다. 사상 ¢_1 。cp I : Vk ― ➔ VK 는 동형사상이댜 그러므로, 규와 T1 은 무한소적 으로동치이다. . • 마지 막으로 G 의 허 용기 약표현들의 Lang la nds 분류정 리 를 소개 하 겠댜 정 리 5.10 S = MAN 을 G 의 포물적 부분군 S 의 Lang la nds 분해 라고 하자. 러를 M 의 기약인 완화표현(t em p ered re p resen t a ti on) 이라

하고 u 는 (a*)C 의 원으로서 Rev 는 열린 양의 Wey l 방에 포함된다고 가정하자. 그러면, 유도표현 U(S, a-, v) := Ind:(a- ® exp v ® 1) 은 유일한 기약상(i rreduc i ble quo ti en t) J( S,a- , v) 를 갖고 있다. 이의 증명은 생략하며 [12] 에서 찾을 수 있다. 주의 5.11 상기의 정리를 Lang la nds 분류정리라고 한다 . Lie 군 의 완화표현의 정의와 성질들은 7 장에서 주어진다. 우리는 기약상 J( S,u, v) 를 Lang la nds 상이라고 한다. 정 리 5.12 S1 = M 먀 N1 을 G 의 극소 포물적 부분군 S1 의 Lang - lands 분해라고 하자. 그러면, G 의 기약허용표현들의 동치류들의 집 합과 아래의 (1), (2), (3) 의 조건들을 만족하는 트리플 (S, [w], 11) 들 의 집합 사이에 일대일 대응이 존재한다. 여기서, (1) S = MAN 은 S1 을 포함하는 포물적 부분군이 댜 (2) w 는 M 의 기약인 완화표현이고 [w] 는 이의 동치류이다. (3) ll E (a* f이고 Rell 는 열린 양의 Wely 방에 포함된댜 이 대응 은 (S, [w], v) 一 J( S, w, v) 로주어진다 . 주의 5.13 상기의 (1), (2), (3) 을 만족하는 트리플 (S, [w],v) 를 Lang la nds 매 개 변 수 (pa ramete r s) 라고 한다.

제 6 장 Plancherel 공식 6.1 아벨 군의 Plancherel 공식 G 를 국소적으로 긴밀인 아벨 군이라 하자 . 게다가 , G 가 제 2 가산 적 (second-counta b le) 이 라 하자. G 를 G 의 유니 터 리 지 표들의 집 합이 라고 하자. 그러면 유니터리 작용소의 스펙트럼 정리에 의하여 G 의 지표들은 G 의 기약인 유니터리 표현이므로 C 는 G 의 유니터리 쌍대 이댜 점 별 곱 (po in t w is e multip lica ti on ) 에 대 하여 G 는 군 이 되 고 G 상에 G 의 긴밀 부분집합의 일양수렴(unifo rm conver g ence) 의 위상을 부여 하기로 한다. 그러면, G 는 국소적으로 긴밀이며 제 2 가산적인 아벨 군이 된댜 임의의 xEG 와 xEG 에 대하여 < x,x >:=x(x) 이라 놓자. 그러면, x 는 X 1---t< x,x >, x E G

에 의하여 G 의 지표라고 간주할 수 있기 때문에 자연스런 사상 G 一 ➔ a (6.1. 1) 을 얻는댜 Pontr j a g in- vanKamp e n 쌍대정리에 의하여 사상 (6. 1. 1) 은 위상군의 동형사상이댜그래서 ,G 와 6 가동일하다고볼수 있댜 즉, G=G (6.1. 2) G 가 긴밀이면 G 는 이산적이고, 반면에 G 가 이산적이면 G 는 긴밀 이댜 예를 들면, G = zn 이면 G = Tn 이고 거꾸로 G = Tn 이면 G = zn 이댜 여기서, T := {z E CI lzl = 1} 이다. H 를 G 의 닫힌 부 분군이라하고 iI := {a E GI a(h) = 1 h E H} (6.1. 3) 라고두자.그러면, (G/Ht = fl, iI = G/iI (6.1. 4) 임을 쉽게 알 수 있댜 특히, H 가 이산적이고 G/H 가 긴밀이면 H 도 역시 이산적이댜 그래서, 이러한 H 를 G 안의 격자 (la tti ce) 라고 한 다. iI도 역시 G 안의 격자이다 dx 를 G 상의 Haar 측도라고 하자. 적 절하게 정 규화된 C 상의 Haar 측도에 대 하여 FouriFe r : 변L2환(G , dx) —~ L2(G, dx) (6.1. 5) 는 유니(터F리f ) ( x동) 형:=사 i상(x이) 다= .L 여f 기(x서 ) ,< x, x > dx, x E G (6.1. 6) G

이다. 그러면, J는 G 상의 연속함수이고 G 의 무한점에서 소멸하고 sup Iii ~ IIJ ll1 - (6.1 . 7) 만일 , f가 연속함수이면서 f E L1(G) 이고 j E £1@) 이라 하면 f를 허용적 (adm i ss i ble) 이라고 한댜 A(G) 를 G 상의 허용적인 함수들의 집합이라 하자 . 적절하게 dx 를 정규화하여 A(G) 一 A(G), f ~ j (6.1. 8) 는 선형동형사상f이(x )댜 = 반la전 공陶식)(i< n v~erds i oxn f,o r muxl aE) c에 의하여 F(6 크.1.은 9) 로 주어진다. Haar 측도 d 硏는 (6. 1. 9) 에 의하여 유일하게 결정되며 Haar 측 도 dx 에 쌍대적이다라고 한다 . 반전공식 (6. 1. 9) 에 f 대신 f*i 를 대입하면 fa lf( x )l2 dx = fa 西 )|2 dx, f E A(G) n L2(G) (6.1. 10 ) 가 된댜 여기서, j(x ) := f (-x) 이댜 A(G) nL2(G) 는 L2(G) 안에서 조밀하므로 사상 (6. 1. 8) 을 확장하는 유니터리 동형사상 L2(G) ---t £2(6) 를 얻는댜 이 확장된 동형사상을 r 로 표시하고 Ff 대신에 J로 표시하l자a. lf (그 x )러l2면dx = la 西 )12dx, f E L2(G) (6.1. 11 ) 가 된댜 (6. 1. 11) 이 다름아닌 G 의 Plancherel 공식이다 . 예를 들면, G 가 긴밀이고 fad x = 1 이면 dx 는 G 상의 계산측도 (count ing mea- sure) 이고 이의 역도 성 립한다. 따라서, dx 는 dx 와 쌍대적이다.

예 6.1. 1 G := Tn( 단, n 은 자연수)을 n 차원 토러 스 라고 하자 . G 상 의 좌표를 0 = (01, • • • l 0 n ) 으로 두자. d0 = d01 · · · d0 n 을 G 상의 정 규화된 Haar 측도라고 하자 . 즉, fc d 0 = l. R 을 (R(¢)!)(0) := f(궁 + 0), f E L2(G, d0) (6.1 . 12 ) 로 정의되는 G 의 정규표현이라 하자. G의 유니터리 쌍대 는 Xm(0) := e2 rr i (m10 1+ ··· +r 로), m := (m1, ... l mn) E zn (6.1. 13 ) 으로 정의되는 지표들의 집합과 일치한다. 기호편의상 L2 (G ) := £2 (G,d0) 라고 두자. 임의의 지표 Xm 은 L2(G) 의 원이고 일차원 부분공 간 C • xm 은 R의 작용에 불변이 고 Rlc ·x - m 은 X m 과 동치 이 다. 그리 고 , L2(G) = EBmC • X-m (6.1. 14 ) 이댜 이제 Fourie r 변환에 의하여 R 의 대각화를 얻을 수 있다. 임의 의 f E L2(G) 에 대하여 f(m ) := (f, X-m), m E 껍 (6.1 . 15 ) 이라고 정의하자. 또, 四상에 계산측도를 부여하자. 그러면, j E L2 맡)이고 :F : L2(G) 一 간 (Z 기 , :Ff := f (6.1. 16 ) 는 유니터리 동형사상이다. 즉, IIJ II = 11111, f E L2(G). (6.1. 17 ) 작용소 F 의 역작용소 r 크은 f = Im: J(m ) x 一 m (6.1. 18 )

으로 주어진다. R1 := FoRo;:-1 이라 정의하면 R1(g) ] (m) = Xm(g )] (m), g E G (6.1. 19 ) 가 된다 . 그러므로 L2(z 기의 표준기저에서 R1( g)는 대각화된다. f가 매끄러운 함수이면 |ml - oo 일 때 j (m) 은 0 으로 매우 빠르 게 접근하므로 아래의 급수 f = Lf (m )X-m m 은 수렴한다. 특히, f(O ) = L i(m ), f E C00(G). (6.1. 20 ) m 이것이 바로 토러스 G := Tn 의 Plancherel 공식이다 . 예 6.1. 2 n 차원 Euclid 공간 G := 할은 비긴밀 아벨 군이다. 임 의의 t = (t1, ··· ,tn) E 惡 n 에 대하여 G의 지표 X t를 Xt ( X1 , ... ' Xn) := ei( t1x 1 + …+t nX n) , (xi, • • • , Xn) E G (6.1. 21 ) 로 정의한다. G 의 정칙표현 R 은 (R(y )f)(x ) := f(x -y ), x E G, f E L2(G) (6.1. 22 ) 로 주어진댜 f E} L(2t)( G:=) 에L 대f (하x )여 X tf ( x의) dFx,o urie r t 변E 환G (6.1. 23 ) G 로 정의한다. 그러면, (R(y) Jl (t) = Xt( y)}(t), Y, t E G (6.1. 24 )

이므로 작용소 R(y) (y E G) 는 동시에 대각화된댜 X t는 L2(G) 의 원 이 아니므로 정의 (6. 1. 23) 은 L2(G) 의 모든 원에 대하여 성 립하지 않 는댜 그리고, L1(G) nL2(G) 는 L2(G) 안에서 조밀하다 는 사실에 유 의하라L. I그J 러(x 면)l2, d x = (21r)- n /4l f( t)12 dt, f E L2(G) (6.1. 25 ) G 의 관계를 보일 수 있다. 이 식 이 G 의 Plancherel 공식 이 다 . S 를 G 의 Schwartz 공간이 라고 하자 . 그러 면, 임 의 의 f E 6 에 대 하여 f(O ) = (21rrn /4c f(t) dt (6.1. 26 ) 임을 증명할 수 있다. f = 9*9 를 (6. 1. 26) 에 대입하여 (6 . 1. 25) 를 얻을 수 있댜 여기서, g(x ) :=屈二 5 이고 *는 합성변환이다 즉, h1, h2 E 6 에 대하(h1여 * h합2성)(x 변) :환= L*는h 1 (y) h 2(-y + x) dy, x E G (6.1 .2 7 ) G 로 정의된다. 6 룰 0 에서의 Di rac 측도라고 하면 6(!) := f(O ), f E 6. 따라서 , (6. 1. 26) 은 8 = (21r)-n la Xt dt {6.1 .2 8 ) G 로 쓸 수 있다 여기서, 6 롤 Schwartz 공간 S 상의 완화 초함수로 간 주한다 (6. 1. 28) 을 역시 G 의 Plancheral 공식이라 한다. 연습문제 6.1. 1 {1} (6. 1. 4) 를 증명하라. {2} (6. 1. 26) 을 증명 하라.

6.2 복소 Li e 군에 대한 Plancherel 공식 일반적으로 Plancherel 공식은 E 조화해석에 대한 완전정리 (com­ ple te n ess t heorem) 로 간주될 수 있다 G 를 국소적으로 긴밀이고 유 니모 듈 러인 군이라 하고, C 를 이의 유니터리 쌍대라고 하자. 그러면, Plancherel 정 리 J는G l f( x ) | 2dx = JJ{; T 나 * f)dµ (w) (6.2 . 1 ) 의 형태 로 나타낼 수 있다. 여기서, f는 Cc (G ) 안에 있는 적절한 함 수이 고 l(x) := ~)이 다. 또 Trw( f * f) = Tr(1r(f )*1 r ( f)), w E G, 7r E w (6.2.2) 임 을 유의하고 µ는 C 상의 측 도이다 . [ lf( x )l2 dx = (f * f)(l ) G 이므 로 (l * f)(l ) =L £c T rw( l * f) dµ(w) (6.2.3) 이댜이 것 은 8 = G Trw d µ(w) (6.2.4 ) 의 형 태로 쓸 수 있다. 여기서 , 8 는 단위원에서의 Di rac 측도이다. 이제, G 를 연결인 반단순 Lie 군이라 하고 이의 중심이 유한군이 라 하자. 그러면 G 의 기약인 유니터리 표현은 지표를 지니며 G 의 유 니터 리 쌍대 C 는 아주 상세하게 매개화된다. 6(G) 를 G 상의 초함수 들의 공간이라 하고 6o(G) 를 이들 중에서 불변인 고유초함수들의 부분공간이라 하자 . 만일, [저 E G 이면 이의 지표 X1r 는 6o(G) 의 원 이다. Ch(G) := {x 니 [저 E G} (6.2.5)

라고 두자. Ai , .. • , Ar 을 G 의 서로 비공액인 Carta n 부분군 들 의 완 전 집 합이 라 하자. Har i sh-Chandra 는 e : 1I A 一 6o(G) (6.2 . 6 ) l:S i :S r 로 주어지는 사상을 얻었댜 x E A i 에 대하여 Bx := 8(x) E 6o(G) 라 고 두자. 그러면 Plancherel 공식은 각각의 A , 상에 양의 측 도 µ i를 적 절하게 취함으로써 6 = E J· 도 ( x ) (6.2 .7 ) l~r JA ; 의 형 태로 나타낼 수 있다. 측도 µ i 는 A i 상의 Haar 측도에 대하여 절 대적으로 연속이기 때문에 dµi( X ) = µi (X ) diX (6.2.8) 이댜 이f( 1 관) =계 는E J. ex (f ) µi(x ) diX , f E C 훈 (G) (6.2.9) 1 懿 r Ai 가 된댜 임의의 f E C 훈 (G) 에 대하여 h(x) := GxU), x E Ai (6.2.10) 라고놓자. J := (11, • • • , Jr) (6.2.11) 을 벡터 f = U1, • • • , fr ) 의 Fourie r 변환이라고 하자. 그러면 Plancherel 공식온 f(1 ) = E J ji ( x) µi ( x) dix , f E C훈 (G) (6.2.1 2 ) l~r JA ;

로주어진다. 가장 간단한 경우는 r = 1 일 때이다. 예를 들면, G 가 복소군이면 r = 1 이다 G 가 복소군인 경우 8 := A1 이라 두자 . 그러면, ex 는 주 조성렬급수의 지표이다. 이 경우 주조성렬급수는 항상 기약이다. 그 러므로자연스런사상 e : iI 一 Ch(G) (6.2.13) 룰 얻으며 이의 화이버는 Wey l 군의 궤적이다 그러면, f(l ) = [ H i(x ) µ(x) dx (6.2.1 4 ) 으로 주어지는 Plancherel 공식을 얻는다. 여기서, µ는 H 상의 연속 함수로서 Wey l 군에 불변이며 µ ` 츠 0 이댜 Gel fa nd 와 Na i mark 는 1940 년대 후반에 복소군 G := SL(n, C) 의 Plancherel 공식을 얻었다. 그들은 H 상의 Fourie r 변환이론을 G 상의 궤적적분에 대한극한공식에 적용하여 이 공식을 얻었다. 그들의 극 한 공식에 관한 증명은 매우 복잡하였다. 그후에 Har i sh-Chandra 는 그의 논문 ([5], Vol. I, 379-383 쪽 ; 511-554 쪽)에서 아주 간결한 방법 울 고안하여 극한 공식을 간략하게 증명하였다. Lie 군상의 궤적적분 을 이의 Lie 대수상의 궤적적분으로 전환시킬 수 있다는 사실을 발 견하였다. 복소군상의 이러한 이론을 실 Lie 군상에 확장하기는 아 주 힘들지만 그는 Lie 군상의 지표이론은 이의 Lie 대수상의 Fourie r 변환이론에 부합된다는 놀라운 사실을 수립하여 후에 Lie 군의 이산 표현의 연구지침이 되었다. 이제부터 G := SL(n, C) 인 경우에 Har i sh-Chandra 의 방법을 따 라가면서 상세하게 G 의 Plancherel 공식을 유도해보겠다. H를 G 안에 있는 대각행렬들로 이루어진 군이라 하고 h 를 이의

Lie 대수라고 하자. 그리고 [J' := { dia g (a 1, • • • , a 이 E [J j ai (1 ~ i ~ n) 는 서 로 다 름 } 이 라 두자 X E [J'에 대 하여 G 안에 서 의 X 의 중 심 화 (c e n t r a l i z e r) 는 다름아닌 H이기 때문에 사상 X 1------t xxx -1 = x x, X E G (6.2.15) 는 전단사사상 G/H---+ xc 를 제공한다 XG 는 g 안에서의 X 의 공 액류이댜 실제로 XG 는 X 의 고유다항식과 같 은 고유다항식 을 갖 는 행렬 y E g들의 집합이댜 XG 는 g 안에서 닫 혀 있으며 사상 (6.2.13) 은 동상사상이다 . 그러므로 임의의 f E Cc (9) 에 대하여 함 수

0 (1 ~ i 요) }, = { I1~ ~* .. :. . *~ IE G }, N

0 0 • • • 1 M: = {mEKlm 은대각행렬임} 이라 두자. 그러면 B := MAN 은

B={ 0* ** . . . ** ’ *E G } 。 。

로 주어지는 포물적 부분군이다. 그리고, c·= KAN 은 G 의 Iwasawa 분해 이 다. n 을 N 의 Lie 대수라고 하자. (zrs I r < s) 가 N 의 좌표라고 하면 dN = dn = g1 (dzrs ^ llZrs) 는 N 상의 Lebesqu e 측도이다 . S c G 가 닫힌 유니모듈러 부분군이라 고 하자 ws 는 지수사상에 의하여 정의되는 S 상의 좌불변형식이라 하고 dS 를 이에 대응되는 S 상의 측도라고 하자. WG/s 와 d(G/S) 는 dG = dS • d(G/S), we = ws • wc;s (at 1) 이 되도록 정의한댜 이때 g상의 함수 f에 대하여 1/J1 (X) := i1r( X)l2 km f(x Hx-1) dx, X E fJ' (6.2.1 7 ) G/H 으로 주어지는 h' 상의 함수 1P J를 정의한다. 여기서, tr (X) 는 대각행 렬 X = dia g (x 1, · · • ,Xn) 에 대하여 1r(X) := II(xr —Xs ) r

로쓸수 있다. 보조정 리 6.2.1 ~’의 원 X 를 고정 시 키 자. 그러 면 , 사상 n t-----t xn-x 는 N 에서 n 으로 보내는 다항식 동형사상이고 d(Xn -X) = J1 r(X)J2 dn 이다 보다 구체1적f 으(Z 로) d n설 =명 하l1면r(X,) l2임 L의의 f (fX E -6oX(n)) d 에N 대하여 n 중명 n = (nij ) E N 이라 놓고 xn := nxn-1 = X+z, Z = (Zi j ) E n 이라하자. 그러면, (xi - Xi ) nii = Zij + L Zik aki i< k < j 이므로 nii = (xi - xi) - 1 Zi j + mi j, i < j 이댜 여기서, m i j는 Zrs( 단, i :S r < S '.S j, Zr s # % )의 다항식이댜 그러므로, II dn 너 顔 = J1 r(x)i- 2 II dzij azij• • i< j i< j 보조정리 6.2.2 임의의 f E 6o( g)에 대하여 궤적적분 1P J는 h' 상 에서 잘1정/Ji의(X 되) =고 v ol(K) · vol(M)-1 • b(G) 1n f (X + Z) dn(Z)

이다 여7기 서:=, L K A d(u)f doK, dG := b(G) vol(K) d0KdNdA 이 고 x = una 이 다 특히 , 1/;f는 Go(h) 의 원을 h' 상에 국한한 것 이 댜 게다가 1/;f는 Weyl 군 W 에 대하여 대칭이다 f E C훈 (g)이면 心j E C흔 (h) 이댜 또 f E 6(9) 이면 7/;J E 6( ry)이댜 중명 보조정리 6 . 2 . 1 에 의하여 임의의 X E ry'과 f E Cc( g)에 대하 여 7/Ji(X ) = vol(M) - 1 阮 (X)l2 LIA f(x xx-1) d(G/A) = vol(Mt 1 b(G) vol(GK/A) l1r(X)l2 j j f(u nxn-1u- 1) doKdN == vvooll((MM))~-11 bb((GG)) vvooll((KK)) lJ1r(Xf )( lX2 j+ Zf) (dXn 기. dN 7 E Cc ( g)이므로 상기의 마지막 적분은 임의의 X E ry에 대하여 잘 정의되어 있고 Cc( Q)의 원이다. 나머지 부분의 증명은 쉬우므로 독자에게 남겨두겠다. • 아래의사상

는 행렬식 士 1r(X)2 을 갖는댜 그러므로, 硏는 모든 곳에서 미분가능 한 전단사사상이댜 그리고, ¢남 = 士阮 (X)l4 d(G/H) d[J. 따라서 우리는 다음의 Wey l 적분공식을 얻는댜 보조정리 6.21.3 f 임d의 g 의= ~f Ei ,학 (lg1)r(X에) l2대 1하/J1 여(X ) d~. f 효(g)](에Y )대 :=하 1여 f 이(의Z ) Feio< uYr ,iZe > r d변g환 (Z )j, 를 Y E g (6.2 . 1 9 ) g 로 정 의 한다 여 기 서 , < Y, Z >:= Re (Tr(XY)). 사상 f 1-----t j는 G 의 g상에서의 수반작용과 교환한다. 특히, f=f. (6.2.20) 쌍선형형식 <, >는 h 상에서 비퇴화이므로 h 상에서도 역시 Fourie r 변환을 정의h(할Y )수 := 있 1댜e i < h Y E,Z >6 (h (QZ))에 d Q대 (Z하 )여, Y E Q (6.2.21) b 로정의한다. V 를유클리드 벡터공간이라하고Vi CV 를 V의 부분벡터공간이 라하자. 이때, Vj_(f) := l. fd Vj _, f E 6(V) (6.2.22) M

로정의한다 정리 6.2.4 (1) 임의의 f E S( g)에 대하여 n(]) = (2 1rt imR( n) (IJ EB n) (f) . (2) 임의의 X E h 와 f E 6(9) 에 대하여 1Pj ( X) = (21r t i m!!!(n 바 (X). 증명 (1) X, Y E g에 대 하여 (X, Y) := Re (Tr(XY*)) (6.2.23) 이라정의하고 >.(X) := X* = tX , X E g 라고 정의한댜 Fourie r 역정리에 의하여 임의의 f E 6(V) 에 대하여 n(}) = (21rlim R (n) n.L (!) (6.2.24) 임을쉽게알수있댜그리고, n.L = ~ EB tn {6.2.25) 이댜 여기서, tn := {tX IX E n}. j = (f o A)^ (6.2 . 26)

이기 때문에 n(j) = n((f o A)^ ) = (21r)di m a(n) l f!l'n (f o .\) d(IJ EB tn ) ~EB 'n = (2 7r)dim a(n) l f!ln f d(IJ 軒) he n = (21r)dim R(n)(IJ EB n)(f ). 여기서, (6.2.24) 와 (6.2.25) 를 사용하였다 (2) X 를 b 의 원이라고 하자. 임의의 f E 6( g)에 대하여 } = }이 므로 1Pj (X ) = vol(M)-1 b(G) vol(K) Jf (X + Z) dn(Z) 이다. g(Y ') := ei< X,Y'> f(Y ') 이라두면 l(X + Y) = [J( Y), Y E g 이다 그러므로, 임의의 Z' E n 에 대하여 < X,Z' >= 0 이기 때문에 1/;j(X ) = c • n([J) = c (27r)di m R(n) lxn ei< X,Y' +Z'>j (Y ' + Z') dfJ ( Y')dn(Z') ~xn = (2 7r)di m R(n) l 1/J1 (Y') ei< X,Y ' > dfJ (Y') h = (2 7r)di m R(n) ~J (X) . ■ e E fJ에 대해, e 방향으로의 미분을 8(e) 라고 표기하자. 그리고, D(e) := 8(e) -i 8(ie ) , 福 := 8(e) + i 8(ie )

라고 놓자. u E e(h) 일 때 (D(e)ut (Y ) = —i (< Y, e > —i < Y, ie >) u(Y) = 국 {Re(Tr(Ye)) —i R e(i T r(Ye))} u(Y) = —i Tr(Ye) u(Y) 이기 때문에 (福 D(e)u t (Y) = -1Tr(Ye)J2 u(Y) (6.2.27) 이 다 er,s := dia g ( O , · · · , 1i• - 1 h , • • • , -1i• - 1 h , 0, · · · , 0) (r < s), 즉 (T, T)- 원소는 1, (s, 아원소는 -l 이고 나머지 원소는 모두 0 인 대각행렬이 라두고 口 := II D(er,s) r

중명 f( O)=~ J }dg 1 = (%)2(n12 _ 1) . n! / |T|2 心j dh = (%)2(n-l!+n2-n . n! / |7r|2 gj dh =(~-l)n(n !-1)/2 ( □ 詞 ) ^ dh (크 )n(n-1) / 2 = ~(%)군 -(n . n! □ 百心사 (0). 여기서, 보조정리 6.2.3, 정리 6.2.4 (2) 와 (6 . 2.27) 을 사용하였다 .• 보조정리 6.2.6 양수 c > O 에 대하여 g(c ) := {u E 9 I u 의 모든 고유값 A 에 대하여 |A| < c}, G(c) := {g E GI g -1 의 모든 고유값 A 에 대하여 |A| < c} 이라고 정의한댜 그러면 아래의 성질 (1)-(4) 를 만족한다. (1) g(c )(resp. G(c)) 는 g 안에서 0 (resp . G 안에서 1) 의 불변 열린 근방이댜 (2) g(c ) (resp .G (c)) (vc > 0) 는 g 안에서 0 (resp. G 안에서 1) 의 불 변 열린 근방들의 집합들에 대하여 기저를 이룬다. (3) c > 0 이 충분히 작으면 지수사상 exp : g(c ) -U C G 는 미분 동형사상이댜 단, U 는 G 안에서 1 의 불변 열린 근방이다. (4) 충분히 작은 양수 c > O 에 대하여 아래의 조건 (a), (b) 를 만족 시 키 는 양수 닝 > 0 과 불변함수 j E C00(G) (resp. k E C00( g))가 존재 한댜

(a) 0 < €1 < €, G(c') C exp (g(c )); (b) j = 1 on G(c'), sup p(j) C G(c/2) (resp. k = 1 on g(c ), sup p( k) C g(c /2)). 증명 상기의 보조정리의 증명은 어렵지 않다. 독자에게 연습문제 로 남기겠다. ■ 정리 6.2.7 임의의 f E C'.훈 (G) 에 대하여 F1(h) := l6(h)l2lam J(x hx-1) d(G/H), h E H' G/H 으로 정의한다 단, dG = dg, dH = d fJ이고 dG = d(G/H)dH. 그러 면, f(l ) = ((-21 71)n()n군-켜1 •) /n2! (口_口 F1)(l), f E C'.훈 (G) . 증명 보조정 리 6.2.6 에 있는 양수 E: > 0 과 불변함수 j E G00(G) 를 취하자. 그러면 임의의 f E C'.훈 (G) 에 대하여 jf E C'.혼 (G), sup p(jf) C exp (g( c)), jf = f on U. 여기서, u 는 G 안에서 1 의 적절한 불변근방이다. 그러므로 Fil = jF J = Ff on V, (jf) o exp E C'.훈(g). 단, v 는 H 안에서 1 의 적 절한 근방이 다 J 대신에 함수 jf에 대하여 상기의 정리를 증명하겠다. 다시 말하면, sup p(!) C e xp(g (c) )이라고 가정하고 g(Z ) := f(e xp Z), Z E g(c )

이라 두자. 그러면, g E C:흔(g (c) )이므로 g E C:훈(g)이댜 원 X E g(E ) n h' 에 대 하여 h := exp X E H' n exp (g( c)) 이 므로 F1(exp X) = l6(exp X)l2 i!H f(x exp X • x-1) d(G/H) G/H = lw(X)l2 1/;g(X ). 여기서, w(X) := 6(exp X)/1r(X), X E 9' 이댜 XEh' 이면 w(X= )rT2#rs =e(x~r 타( )~/2 .) ~ X r ——eX- (s x r-x,) /2 = IJ O 에 대하여 함수 W1 은 g (E) 상에 서 절대로 소멸하지 않으며 |w 기온 실해석적 함수이고 |wi l(O) = 1 이 다. 임의의 g E C훈 (g (E) )에 대하여 Iwl|g E C훈 (g (E) )이기 때문에 F1(exp X) = 'l/;1w t 1g( X), X E ~' n g(c ) (6.2.29)

으로 쓸 수 있댜 (6.2.29) 의 양변에 미분작용소 DD 를 적용한 후 X--+ O 하여 정리 6.2.5 로부터 상기의 정리에 있는 공식을 얻는다 • 보조정리 6.2.8 m1,··· ,mn 은 정수이고 Pl,··· ,Pn 은 실수로서 LJ= l m j = O, L t=따 = 0 의 조건을 만족한다고 가정 하자 . Xm1.- ·· ,m,, :ip1 ,… , ip ” 을 Xm1,… ,m., : ip1 ,… , ip ,, (dia g (z 1 , • • • , zn)) : = ITn (zi /lz 기)ffij • lzil i pj j= l 으로 정의되는 지표라고 하자. 그리고 함수 µ : iI 一 ➔ c 를 µ(Xm1,·· , m,, :ip1, … , ip J = IJ [ (mr -ms)2 + (Pr -P s)2 ] (6.2.30) r , X := diag (x 1, • • • , xn) 과 같이 주어지는 지표이다. D(e)(X€) = i Tr(ee) X€

이므로 이로부터 상기의 보(-조1)정n(리n-를 1) / 2얻 □는□다 (.x { ) = µ(xd X{ • 정리 6.2.9 H 의 임의의 지표 x 에 대하여 Tx 를 주조성 렬 L x 의 초함수 지표라고 하고 dx 를 H 상의 측도라고 하자. 그러면, 임의의 f E C훈 (H)f 에( l )대 =하 ~여 k Tx (f ) µ(x) dx (6.2 . 3 1 ) 이댜 여기서 µ는 (6.2.30) 에서 정의된 함수이다 . 증명 정 리 6 . 2 . 7 에 의 하여 f(l ) = ~((%크) )군n (-nn- 1.) /n2! (D 口 F1)(1) === ((((%2-% 미l))?n군2( n_-n~n- 1.. )nn/2!! lll( D麟Tx口 () fF) jµµ ) ( (^xx( )x) d )d xdx. x ( ·: 보조정 리 6.2.8) ■ 1 1 (6.2.31) 은 G := SL(n, C) 의 Plancherel 공식 이 댜 Haris h -Chandra 는 지금까지의 (6.2.31) 의 유도과정은 모든 복소군의 경우에 확장될 수 있음을 보였다 ([5], 511-554 쪽). 실제로, 유일한 Carta n 부분군의 공액류가 존재한다는 점이 중요한 사실이다 . S0(1,2n+ 1) 과 같은 실 Lie 군은 오직 하나의 Carta n 부분군의 공액류를 갖고 있기 때문 에 위와 같은 유도과정이 적용된다. 그러나 일반적으로 실 Lie 군은

여 러 개의 Carta n 부분군의 공액류를 지니고 있기 때문에 Plancherel 공식을 유도하는 과정은 매우 복잡하고 어렵다. 6.3 SL(2, 政)의 Plancherel 공식 이재부터는 G := S£(2,IR) 이라 하고 g를 이의 Lie 대수라고 하자. G = SL(2, 民)에 대한자세한 내용은 Ser g eLan g의 저서, SL 짜惡 )(1985) 을 참조하기 바란다 K =SO(2, 惡) ={ ko = ( 二°。 二 °。 ) I O C', 0 < 2,r }, A = {a t '= ( 仁°- t ) 1 t E 나 N = {n s '= ( ; : ) 1 S E 나 이라 놓자. 그러면, G = KAN = KNA 는 G의 Iwasawa 분해이댜 xEG 이면 X=konsat (6.3.1) 라고 놓고 G 상의 Haar 측도 dx= 一1 d0dsdt (6.3.2) 21r 를 취하자. M := {士 1}( 단, l:=E2 는 2 x 2 단위행렬임)이라 놓자. G 안에는 두 개의 Carta n 부분군의 공액류가 있다. 그것은 T:=MA, B:=K

이 댜 T 와 B 상에 HdaTa r: =측 d도( 士를) d각a,각 dB := —21r d0 (6.3.3) 1 롤 취한댜 이 선택을 고정한 후 우리는 G/T 와 G/B 상에 잘 정의되 는 상측도 d(G/T) 와 d(G/B) 를 얻는다 A+ := {0-t E Al t 츠 0} 이라 두자. G의 분해 G = KA + K 에서, xEG 이면 x = kcp1 ar k'P2 , 0 :S 'Pl , 'P2 < 21r, r 2: 0 (6.3.4 ) 으로 나타낼 수 있다. G 상에 Haar 측도 dx 는 dx = 2 7r sin h 2r dr 쓰2T ~2T (6.3 . 5) 으로주기로한댜 f E C훈 (G) 라고 하자. sin 0 # 0, 즉, O # 0, 군일 때 F『 (0) := (ei9 - e-i9 ) LIB J(x k0 x-1) d(G/B) (6.3.6) G/B 라고 정의하고,t #O 일 때 Ff (土아) := 士 |e t - e - 니 f(x (±at) x- 1) d(G/T) (6.3.7) G/T 라고 정의한다. l그a 러f면(x ,) dWx e=y l L 적(e분-공i0 식 -에ei0 ) 의F하f 여(0) 릅 (6.3.8) 士!2 JT | et 一 e-tl Fj (士어) d( 士) dt 이다.

정의 6.3.1 (1r,V) 를 G 의 기약인 허용표현이라고 하자. {u i}를 V 의 정규직교기저라고 하자 함수 8 :G-C 를 8,r ( x) := Tr 1r(x) = 麟 (1r(x) ui, ui) , x E G 라고 정의한댜 e 를 군의 지표 (charac t er) 라고 한댜 임의의 f E C 훈 (G) 에 대하여 81 r( f) := Tr 1r( f) = L8 1r(x) f(x ) dx G 로 정 의 한댜 이 때 e1T 를 C훈 (G) 상의 초함수로 간주할 수 있다. e1T 를 7r 의 대 역 적 지 표(g lobal charac t er) 라고 한다 . 이제 G 의 유니터리 쌍대 G 를 복습하자. G의 기약 유니터리 표현 7r 가 G 의 정칙표현의 직합인자로 나타날 때 7r 를 이산표현 (d i scre t e se ri es) 이라고 한다 . (1r,V) 가 G의 이산표현이기 위한 필요충분조건 은 임의의 벡터 u(f- 0 ), v(f- 0 ) EV 에 대하여 행렬계수함수 x 1------t (1r(x)u, v), x E G 가 L2(G) 의 원소인 것이다 여기서, ( ' )는 Hi lbe rt 공간 V 의 내적 이 다 그래서 이산표현을 2 승가적 표현 (s q uare int e g rab le rep re senta - tion ) 이 라고도 한댜 (URl) 이산표현 D! 와 Di ( 단, n 츠 2 인 자연수 ) 댜의 표현공간 Vn+ 는 V/ := { f E Hol(H1) I llf lln < 00 } (6.3.9) 이댜 여기서, H1 는 Poin c are 상반평면이고 Hol(H1) 은 H1 상의 모든 복소II해J II석; :적= L함H.1수 lf들( z의 )l2 집Yn합-2을 d x나 dy타, 내며z = X + iy, x, y E IR. (6.3.10)

D t의 작용은 Dt ( : : ) f(z) := (— bz + d)-n f ( _a;z_+ c d) (6.3.11) (단, ( : : ) E G) 로 주어진다 (z+ i )- n E Vn + 이기 때 문 에 따 1+ # {O} 임을 유의하라 . D; 온 공액복소수를 사용하여 D ,t 처럼 얻어진다. 그러면, D 꾼와 D ;;온 기약인 유니터리 표현이고 이 들 의 행 렬 계수함 수는 2 승가적이다. 그러므로, D 尸 와 D; 는 이산표현이다. (UR2) 주조성 렬 p+ ,iv 와 p- ,iv (단, V E 良) Hi lbe rt 공간 E( 惡)이 주조성 렬 p + , i v 와 P _ , i u ( 단, u E R ) 의 표현공 간이다. P 士 , i u 의 작용은 p+,i v( g ) f(x ) = I -b x + di- 1- iv f (~) ' (6.3.12) p-,iv( g) f(x ) = sgn (-bx + d)l -b x + dl-l-i v f (~) (6.3.13) 로 주어진댜 여기서 g = ( : : ) E G, x E ii이고 f E L2(R) 이 댜 p±,iv ( v E 惡)는 모두 유니터리 표현이지만 p - , 0 를 제외한 모든 P 士 ,i v 는 기 약이 댜 그리 고 p+,iv ~ p+,-i v , p-,iv ~ p-,-iv, 1/ f 0 와 같은 유니터리 동치관계룰 얻는다.

(UR3) 보계 열 (comp le menta ry serie s ) C0 (단, O < a < l ) 보계 열 @(단, O < a < l) 의 표현공간 V a 는 V0 :={ f : 惡 --+ C \ llf ll~ := 1 2 ~ dxdy < oo } (6.3.14) 로 주어지며 c a 의 작용은 c0 (g )f(x ) = I —bx + dl-l-o J(( ax 一 c)/(bx —d) ) (6.3.15) 로 주어진다 단 , g~ ( : : ) E G, xER 이고 J E Va 이댜 @(단, O < a < l) 는 모두 기약인 유니터리 표현이다. (UR4) 그 외 의 표현들 (UR1)-(UR3) 이 외 에 자명 한 표현과 이 산표현들의 극한인 D t와 D 1 가 있댜 D t와 D1 의 작용은 (6.3 . 9) 와 같으나 이들의 표현공간은 아래의 노옴 llf lli :=!y~> Of 1J- o 0:o0 lf(x +i y)l2 dy 에 의하여 주어진다 . 두 표현 D t와 D1 는 이산표현이 아니며 p- ,o ~ Dt EB D1 와 같은 유니터리 동치관계가 있다. S := MAN 은 G 의 극소 포물적 부분군이 댜 6 를 M 의 기 약인 유 니터리 표현이라 하고 v 를 (a*)C 의 원소라고 하자. 여기서 a 는 A 의 Lie 대수이고 a* 는 a 의 쌍대이다. 그러면 유도표현 U(S,u,v) 는 유니 터리 표현이 아니며 이의 지표 ec, 1/ (x) 는 eu,v (x) = {0 三눅 ((xx 가가 k士e 와아 와공 액공 일액 일때 )때,) (6.3.16)

로 주어지며 국소적으로 적분가능한 함수이다. G 의 표현 D t와 D;( 단, n 츠 1 인 자연수)의 지표 en 은 en(x)= {三무브 (단 ,x 가 ko 와공액일 때) (士) e(n- 1 )1 (1-s gnl :E: :: 「 - 1 )1 (l+s gnt) (단, x 가 士 a t와 공 엑 일 때 ) (6.3.17) 로주어진댜 당분간 함수 f E C00(G) 가 f (kxk크 ) = f(x ), vk E K, vx E G 의 조건을 만족한다고 하자 . 특이점 0 = 0, 1r 에서의 f의 궤적적분 Ff (0) 의 움직임을 조사하자. G 의 분해 G = KA + K 를 이용하여 Ff (0) 를 계산하자. 정 의 {6 . 3.6) 에 의 하여 Ff (0) = 41r sin 0 fo0000 f(a rkoa- r) sin h 2r dr = 2T sin 0 i。 OO f ( _e::rs:lil 。 , 0 = 硏길 때 < - >를 택한다.

보조정리 6.3.2 F : {(u,v) E IR 서 iuv l < 1} _-c 를 긴밀 받침을 갖는 coo 함수라고 가정하자. 그리고, 00 I(s) := 7r s 100 F(se2r, se-2r) (e2r -e -2r) dr 。 이라 놓자. 그러면, (1) lim 8 . ..... o+ I(s) = ~ ft F(u, 0) du, (2) lim 5 ...... o+ 꿉 I(s) = 국 F(O, 0) , (3) 0 < s 족 R 인 실수 s 에 대하여 j ¾J (s ) + 1rF(O, 0) |: s; s(c1 + c2 log s-1) 의 조건을 만족시키는 상수 C1 과 C2 가 존재한다. J중i(s명 ) : = 1rs 100 F(se2r, se-2r) e2r dr = T 100 F(sx, sx-1) dx = i 10000 F(y, s2y - 1) dy s 이고 I2(s) : == 1-rsi 1 。0 1000 FF(s(se22y\ - s1 e,- y2)r )d(y- e2r) dr = -구 fo1 F(sx-1, sx) dx s 。 이댜 I(s) = Ii (s) + I2 (s) 이 므로 lims -+o+ I(s) = i ft F(u, O)du. fs11 (s) = 一군 F(s, s) + 1rs 100 恥(y, 82y -1 ) 우

(단, F2 는 두번째 변수에 대한 미분을 나타냄)라는 사실과 7rS lsa C 쁘y = s (1rC log a + 1rC log s-1) 하이여라 는위 의사 실것을과 쉽더게하 여보 일(2 )수 와 있(3)댜 을 끝증으명로할 훑수 I2있(s다). 를 위와 같이 계산• (6.3.18) 과 (6.3.19) 에 보조정 리 6.3.2 를 적 용하면 F『 (o+) = 1ri J.(X) f (; :) du, (6.3.20) (읊 Ff ) (o+) = -21ri f(l ) (6.3.21) 을 얻는댜 같은방법으로 Ff (o+ ) -F f (o -) = 1ri 「00 f (; :) ds (6.3.22) Ff 衍) -F f( 7f_) = -7 fi f_0000 f (-(; ~) ) ds, (6.3.2 3 ) 읊 까 (o+) = 읊坪 (0 기 = -21ri f (l ) (6.3.24) 임을쉽게 알수있댜 그리고 h E C훈 (G) 이고 다 0 이면 짜(士아) = 士 e t LxN h(k( 士어 )nk-1) dk dn (6.3.25) KxN 임을 증명할 수 있다. f(k xk-1) = f (x) 이므로 (6.3.25) 에 의하여 Ff (o+ ) -F f (0 기 = 1ri F J (ao ), (6.3.26) Ff (군) -F f (rr 기 = T i F『 (-ao) (6.3.27)

이댜 Ff 는 0 = 0, 1r 에서 점 프 (j um p) 불연속성을 갖지만 (6 . 3 . 24) 와 같 은 미분공식을 갖는댜 (6 . 3.25) 에 의하여 탸저는 T 상으로 확장되며 퍼 는 우함수이고 젊 FJ ( O) = 0 이다 (6 . 3 . 24) 는 옮Ff 에서 J (l) 을 계산할 수 있다는 사실을 보여주고 있 8댜 n +(l6 (. f3) . 1==7)~ l1 과 B l ((e6 i.n{3 0 . 2-e5 ) te 에(- li n- 의 0) s하gF_n 여『 t ( ) O )+ 쁘%e- n \1 + sgn t) } T x FJ (士 a t)(士 )n d( 士) dt (6.3.28) 임 을 쉽 게 알 수 있다. (6 . 3.28) 의 우변 첫번째 항을 부분적분한 후 Fourie r 급수를 더함으로써 삶Ff 를 얻을 수 있다. 그런데 Ff 는 점프 불 연 속 성을 갖고 있다는 사실과 부분적분을 할 때 점프가 공식 속에 들 어간다는 사실을 염두에 두어야 한다. 이 점프들은 파t로 주어진 다 ((6 . 3 . 26)-(6 . 3.27) 참조). (6 . 3.28) 에 의하여 f (l) 을 이산표현의 지 표와퍼로표현할수있댜 uER 에 대하여 iu ( ; _\ ) := i成 (6.3.29) 를 정의한댜 (6.3.16) 과 파\(士아) = F『 (士 a_ t)라는 사실에 의해 ec,w ( f) === ;士土 ;JJ T JcT{ ( 士퍼c )(( 士+ e )i아v( t e ) iF v tJ - +(c 士e( a-- itv)) t )dF (F『 士J ( ()-d0士 tt아 )) }d (e 士iv ) tdd t t . (6.3.30) T

(6.3F.J3 0()+ 과 a t)F o—uFriJe r ( -역 a 정t) 리= 에~ 의 1 해: 2 8+,iv ( f) e-ivt dv, (6.3.31) 1 00 FT(+ ai) + FJ (―이 = 습 1: 2 e-,iv U ) e-iv t d v (6.3.3 2 ) 이다.FJ그 (러+ 므at)로 = 습 J-0000 [ e _,w ( f) + 도(f) ] e-iiJ/ d v, (6.3.33) FJ (- at) = 습 1: [8 -,iv ( f) -8 - ,i1, ( f) ] e-i v td v (6.3.34) 이댜 이제 아주 상세하게 G의 Plancherel 공식을 유도할 때가 되었다. (6 . 3.28) 에 자연수 n 을 곱한 후 연속구간에서 부분적분을 하면 n On+1(+f ) : =j -프20010r0 l1{ o 2 1건r( e(1in 9一 -sg en - ti)n 9 +) Fef- n(t0( ) l d +0 sgn t) FJ (+ at) dt 규 (-l t 10:0 { ent( l-sg n t) + e-nt( l + sgn t ) } 탸(-~) dt 며 [ Ff (-Oo 기o -( ― 1)nFf (군) + (-1)n Ff (T 기 -F f (O 기 ] -습 121r(ein 9 + e-in 9) 읊 Ff (O) d0 + Ff (ao ) + 11: e-nltl (sgn t )ft 亨) dt + (-lt FJ (- a0) + 1(-lt 1: e-nl t l(s gnt)釣(-~) dt -oo

이 댜 (6 . 3 . 26) 과 (6 . 3.27) 에 의 하여 점 프들은 소거 된댜 _게습다 가〔 읊 F『 (O)d0= -~ (t + [) = -습 [ 呼 (0 - ) —Ff ' (,r+) + F『 (1r-) -Ff '(o+ ) ] = ; { 탸 (ao) + Ff (-a ,) } (·.-( 6 . 3.2 6- 27) 에 의 하여 ) 임t을( n쉽 —게 1 ) 알G n수( f )있 =다 i . ,그_f_러 므습로 12rr eik 0 ~ F_『 (O) d0 00 00 n=2 k= -oo +- 1~1 {~ 퍼 1 (-:ao )e -+nl tF l_(『s g( n- ato)) 굶} 탸 (a t) dt l OO OO d + >1 프°° (-1)n J°° e_n| t I(s gntd )같戶) dt n=l J -oo 이다 보조정리 6.3.2(c) 에 의하여 Di ni 테스트를 사용할 수 있으며 0 = 0 에서의 삶 Ff 의 값을 계산하면, (6.3.24) 에 의하여 21r f(l ) = L°°( n -1 ) 8n( f) + i1 퍼 (ao) +_ :;n= 汀 2幻 (―: ao) e--½nlt l t(s g n (t)― 1f) 」t탸: (a t)e -dntl t l(s gnt님저(一어) dt n= l _OO

함수 h:R ― ➔ hc( t에) :대= 하1여: h(x)e-i ( xdx, t E 惡 (X) _(X) 이라 정의한댜 g와 h 가 E( 民)에 속하는 함수라고 하면 Fubin i 정리 에 의하여 J-0000 gb dx = J_0000 9h dx (6.3.35) 이댜 hg((vt)) :: == e玉-nltl sg[ ne t-,, iv ( f) 士 도 ] 라고 하면 간단한 계산에 의하여 g(v ) = 군- 2+ivv2 ' h(t) = ~ 탸(土Ut) 2임 다을 (알1) =수+ tJ있, 댜(ono 습-(61 . 3J) ._93003n00) (, f<() 6 .3.3 4) e의+ ,미iu (분f )과d u (6 . 3.35) 에 의하여(6 .3.36) + nn:t 홀 수oo 습 J _OOOO 」 Q,iu(f ) d1I. 1r cotn : 1짝rz수 = ~ + t, (;h + 占) = too n

이므로 : n2I /:I/2 = 字 cot T = T coth 閉 (6.3.37) n= _CO n ; 짝수 이고 f ~ = 1riv cot 1riv - 字 cot 뚜 (6.3.38) n= -o o n : 홀수 = —2 tan h :..:2...: ._ TU TU 이다. 정리 6.3.3 f E ~훈 (G) 이고 G 상에 Haar 측도가 (6.3.2) 와 같이 정 규화21되rf어 (l ) 있접다고 (n하 자-. 1 ) 그0러n(면 f), + i 1: 0+ ,iv ( f ) • 1/ tan h (T) dv + i J_CX)CX) e_,iu ( f) • u coth 信) dv 중명 (6.3.37) 과 (6.3.38) 을 (6.3.36) 에 대입하여 상기의 공식을 얻 는다.

제 7 장 기약완화표현 이 장에서는 Lie 군의 기약 완화표현에 관하여 간략하게 설명하 겠 다 G 를 선형연결인 reducti ve 군이라고 하자. 그러면 임의의 G 의 기 약 완화표현(t em p ered re p resen t a ti on) 은 항상 어 떤 G의 유도표현 U(S, CJ, II) 의 기약성분으로 나타난다는 사실이 잘 알려져 있다. 여기 서 , S = MAN 은 G 의 포물적 부분군 S 의 Lang la nds 분해, 6 는 M 의 이산표현이고 u 는 A 의 유니터리 지표이다. 이러한 이유로 많은 수학 자 들 이 G 의 기약 완화표현을 심도있게 연구하고 있다. 7.1 정의와 기호 이제부터는 G 는 선형연결인 reducti ve 군이라 하자 . G = KMAN 을 G 의 분해라고 하자. 단, S = MAN 은 극소 포물적 부분군 S 의 Lang la nds 분해이다. 원소 g E G 에 대하여 g = k(g) µ(g) eH(g) n (7.1. 1)

의 형태로 유일하게 쓸 수 있다 . 단, k(g) E K, µ(g) E M , H(g) E a, n E N. 여기서, a 는 A 의 Lie 대수이다. 6 := 6(g : a) 를 (g : a) 에 대한 뿌리시스템이라 하고 A + 룰 A 상 의 어떤 순서에 대하여 스 안에서 양의 뿌리 들 의 집합이라고 하자. 이제, 임의의 cpv~ E(g )a *: =에 l대 하e여- (v ,+ 함p) 수H(g -c pi k? ) :d Gk, 一g EC 를G (7.1. 2) K 로 정 의 한댜 단, p := EEoEA + a 이 고 측도 dk 는 K 상의 정 규화된 Haar 측도이 댜 즉, fx dk = l. 함수 cpf (v E a * ) 를 구함수 (s p he ri cal fun cti on ) 라고 한다 보조정 리 7.1. 1 구함수 cpf는 아래 의 성 질 (1)-(4) 를 만족한다. (1) cpf(1 ) = 1. (2) cpf(k xk') = cpf(x ), 단, k, k' E K 이고 x E G 이다 (3) lcpf (x )I : :; 'Ptv( x ), x E G. (4) fK cpf(x ky ) dk = cpf(x ) cpf(y), x, y E G. 증명 (1) 임의의 k E K 에 대하여 H(k) = O 이기 때문에 깝 ?(1) = JK dk=l 이다 (2) 임의의 kc,p ~k (' kEx kK') 에 === 대 llj하 eee여--((-(U vv+++p pp ) )) H HH((( kk'x' -- 一1' 1x라k-) 1) kd- k1d kk) dk K K = cp~ (x).

(3) 임의의 g E G 에 대하여 諺(g )I ==기I1 l1l ( e eee---(((RRRe.ec vvv +++ pip )l) m HHv((+gg p-- ) 11 k kH)) ( edg- -k 1i klI) m · dvI (kHl (I g- 1e k)-) idlm k1 1I(H (g- 1 k))dk I J( K 기 l e e- ( R. cv + p ) H(g- 1 k) dk l=l

= JI( JI( e- (v+ p ) H( y- lk - lx - lk i) dk1dk = JK x K e 一 (v + p) H(y- lk - k(x - lk i) ) e-(v+p ) H(x- 1 ki) dk dk1 =

로 정의한댜 만약에 T( f)가 트레이스류 (o f tra ce class) 이고 e 가 초 함수 (d i s tr i bu ti on) 이면 e 를 군의 대역적 지표(g lobal charac t er) 라고 한댜 g E G 와 f E C'.훈 (G) 에 대하여, 함수 !9 : G-C 를 f9( x) := J(gx g -1 ), x E G (7.1 .6 ) 로 정의한댜 e 가 군의 대역적 지표이면서, 임의의 g E G 와 f E C훈 (G) 에 대하여 항상 0(!9) = 0(!) (7.1. 7) 의 성질을 만족할 때 e 는 불변이다(i nvar i an t)라고 한다. rank G=rank K 라고 가정하자. 여기서 , K 는 G의 극대 긴밀부분 군이댜 이 조건은 G 가 긴밀인 Carta n 부분군을 가지고 있다는 조 건과 동치이다 . g와 t를 G 와 K 의 Lie 대수라 하고 b 를 b 도 t 드 g 를 Carta n 부분대수라고 하자. 이 때, 6 := (gc , be) 의 뿌리들의 집합, 1:::, := (e 으 bc) 의 뿌리들의 집합 이라하자.그러면 , [bc, t이 다 c, [bc, P 이 드 pc 이기 때문에 각각의 뿌리공간 ga (a E 스)는 tC 또는 pC 안에 포함된 다 만일,g 0 도 ec 이면 뿌리 a 를 긴밀뿌리라하고g a 도 p C 이면 a 를 비 긴밀뿌리라고 한다. f:::, K 는 긴밀뿌리들의 집합과 동일하다는 사실을 쉽게 알 수 있다 . 6n 을 비긴밀뿌리들의 집합이라 하자. WG 와 WK 를 각각 뿌리시스템 A 와 f:::, K 의 Wey l 군이라고 하자 . 그러면 , WK = W(B : G) = W(B : K) (7.1 . 8)

이다. 단, B 는 Carta n 부분대수 b 에 대응되는 Lie 부분군이다. A 의 양뿌리시스템 A+ 를 선택한 후, 6} := 6n61< 라고하자. 그리고, 6G := 51 0>EA+ a, OK := ~1 aLEAt a 라고놓는다. 정리 7.1. 3 G 를 선형연결인 반단순 Lie 군이라 하고 rank G=rank K 라고 가정하자. 또, (i b)* 의 원 A 는 임의의 a E 6 에 대해 < >., a >:/= 0 이라 가정하고 A+ 는 A 에 의하여 6+ = {a E 6 j < >., a >> 0 } 와 같이 정의된다고 가정하자. 끝으로, A+6G 가 해석적으로 정수라 고 가정하자. 그러면, 아래의 성질 (1), (2), (3) 을 만족하는 이산표현 TA 가 존재한다. (1) 7r>. 는 무한소적 인 지 표 XA 를 지 닌다. (2) 찌 K 는 중복수가 1 이고 최고 무게 A 가 A=A+6G_26K 로 주어지는 K- 타입 TA 를 포함한댜 (3) A’ 이 찌 K 안에 포함되는 K- 타입 TA’ 의 최고 무게라고 하면 A’ 은 A' = A + L n0 a, n0 E Z+ aEA+

의 형태이다 . 여기서, z+ 는 음의 정수가 아닌 정수 들 의 집합이다. 위와 같이 얻어진 두 이산표현 TA 와 Tx 이 동치이기 위한 필요충 분조건은 두 매개변수 A 와 X 이 Wey l 군 WI( 의 작용하에서 공엑인 것이다. 상기 의 정 리 에 대 한 층명 ([12] 의 제 9 장 참조)은 생 략하겠다. 정의 7.1. 4 정리 7. 1. 3 에서 나타나는 매개변수 A 를 이산표현 T 근의 Harish -Chandra 매 개 변 수라고 부르고, 7r|I( 안에 나타나는 K- 타입 매 개 변수 A 를 Blatt ne r 매 개 변 수라고 한다. 정 의 7.1. 5 S = MAN 을 G 의 포물적 부분군 S 의 Lang la nds 분 해라고하자. 이때, rank M = rank (K n M) 이면, S 를 G 의 첨점 포물적 부분군 (cus pi dal pa rabolic sub grou p)이 라고한댜 정의 7.1. 6 (1r,V) 를 G 의 허용표현이라 하고 株澤臼 r 의 K- 유한벡 터들로 이루어진 벡터공간이라 하자. 만약에 유한 개수의 K- 유한벡 터 V1, • • • ,Vn 이 촌재하여 VK = Ln U(gl C )Vj j= l 일 때 , (1r, V) 를 유한적 으로 생 성 되 는 표현 또는 Haris h -Chandra 모듈 이라고 한다 여기서, U( g lC) 는 g C 의 보편포락대수이다. 정의 7.1.7 C훈 (G) 는 Schwartz 공간 6(G) 의 조밀인 부분공간이 다. G 상에 정의된 초함수 0 : C훈 (G) 一 C 가 Schwartz 공간 6(G) 상

으로 연속적으로 확장될 때, 초함수 O 를 완화초함수(t em p ered dis t r i - buti on ) 라고 한다 정의 7.1. 8 Lie 군 G 의 기약인 허용표현 (1r,V) 가 있어, 이의 모든 K- 유한 행렬계수함수가 L2(G) 의 원일 때 표현 (1r,V) 를 G 의 이산표 현 (dis c rete serie s ) 이 라고 한다. 7.2 완화표현의 성질 이 절에서는 증명 없이 완화표현의 여러 성질들을 열거하겠다. 정리 7.2.1 G 를 선형연결인 reducti ve 군이라 하고 e 를 기약인 허용표현 (1r, V) 의 대역적 지표라고 하자. 그러면, 아래의 조건 (1), (2), (3) 은 서로 동치이다. (1) e 는 완화초함수이 다. (2) 임 의 의 G 의 Carta n 부분군상에 서 e 의 분자함수 (deno mina t or) 는유계이다. (3) (1r, V) 는 G 의 완화표현이댜 정 리 7.2.2 S = MAN 을 선형 연결인 reducti ve 군의 포물적 부 분군의 Lang la nds 분해 라고 하자. c 를 M 의 이산표현이 라 하고, V E (a*)C 를 허수이며 정칙이라고 가정하자. 그러면, 유도표현 U(S, u, v) := Ind~(u ® exp v ® l) 은 G 의 기약인 허용표현이댜 여기서, u 가 정칙이라고 하는 것은 임 의의 뿌리 a E A(g : a) 에 대하여 < v, a >=I= 0 인 것이다.

이미, 정리 5.3 에서 유도표현 U(S, er, v) 가 허용표현이란 사실을 증명 하였댜 Eis e nste i n 적 분의 성 질을 이 용하여 U(S, er, v) 의 기 약성 울증명할수있다. G 를 선형연결인 reducti ve 군이라 하고 이의 중심이 긴밀이라고 가정하자. 81 = MAN1 과 82 = MAN2 을 각각 G 의 포물적 부분군 s1 과 S2 의 Lang la nds 분해라고 하자. 그리고, 6 를 M 의 기약인 유니 터리 표현이라고 하고 I/ E (a* f를 허수라고 하자. M 과 E 를 각각 유 도표현 U(S1, er, v) 와 U(S2, er, v) 의 표현공간이라고 하자. 이때 , 아 래의 작용소 A(S2 : 81 : er : v) : ½ -+ Vi (7.2.1) 를

A(S2 : S1 : a-: v)f (x ) := kN,n1nNN2, f (x 福) 洞 f E ½ (7.2 .2 ) 으로 정의한다. 여기서, N1 := 8(N 이 =t N~1. (7.2.2) 의 우변에 있는 적분은 수렴한다는 사실을 알 수 있다. 작용소 A(S2 : S1 : O' : V) 는 G 의 작용과 양립한댜 우리는 작용소 A(S2 : S1 : O' : V) 를 표준 뒤얽 힌 작용소 (st andard int e r tw ining o p era t or) 라고 한다. 그리고, A(S2 : S1 : a-: v) U(S1, a-, v) = U(S2, a-, v) A(S2 : S1 : a-: v) (7.2 .3 ) 의 관계가 성립함을 쉽게 보일 수 있다. 같은 방법으로 표준 뒤얽힌 작용소 A(S1 : S2 : O' : V) 를 정의할 수 있다. 그러면, A(S1 : S2 : a-: v) A(S2 : S1 : a-: v) = TJ( S2 : S1 : a-: v) I (7.2.4 ) 의 관계를 만족시키는 (a*)C 상의 복소 유리형 함수 (ra ti onal fun c ti on) rJ( S2 : S1 : O' : V) 가 존재한다 여기서, I 는 항등작용소이다.

정 리 7.2.3 S = MAN 을 G 의 포물적 부분군이 라 하고 dim A=l 이 라고 가정하자. 그리고, a 를 M 의 이산표현이라고 가정하자. 그러면, 아래의 세 가지 조건 (1)-(3) 을 만족한다고 하면 유도표현 U(S, (T ,0) 는 기약이 아니댜 ((12)) NIWK((aA) 의: G 자)I 명=하 2. 지 않은 원 w 가 존재하여 w(a) ~ 6 이다. (3) 유리 형 함수 n( 전 : S : a : v) 는 I/ = 0 에서 극점 (p ole) 을 갖지 않 는댜 여기서, 전 := MA0(N) 이댜 그리고, 상기의 세 조건 중에서 어느 하나라도 성립하지 않으면 유도표현 U(S, (T ,0) 는 기약표현이다. 정리 7.2.4 G 를 선형연결인 reducti ve 군이라 하고 이의 중심이 긴밀이라고 하자. 6 는 M 의 이산표현이고 U E (a*)C 는 허수라고 가 정하자. 그러면, 유도표현 U(S, er, v) 의 기약성분의 중복수는 1 이다. 상기의 정리는 중복수 1 정리라고 불린다 . 정의 7.2.5 S 가 G 의 포물적 부분군으로서 극소 포물적 부분군을 품으면 S 를 표준 포물적 부분군 (st andard pa raboli c s ubg rou p ) 이 라 고한댜 瑾 M 의 이산표현이라 하고 U E (a*)C 를 허수라고 하자. 이때, w( T, II := { s E w(A : G) I s[ 어 = [a), S1 / = 1/} 라고 정 의 한댜 Wey l 군 W(A : G) 는 M 의 이 산표현들의 집 합상에 서 작용한다는 사실을 유의하라. 그리고, 십, := { a E 6.(g : n) I µ(T, 0(v) = 0,

Wey l 군을 W ; , u 로 정 의 한댜 보다 상세 한 것 은 [12] (562-565 쪽)를 참 조하기 바란댜 정리 7.2.6 S = MAN 을 표준인 첨점 포물적 부분군이라 하고 (J'를 M 의 이산표현이라고 가정하자 . u E (a*)C 가 허수이고 u 의 실 수부분 Re v 가 닫힌 양의 Wey l 방에 포함된다고 가정하자. 그리고 Wa,v = w;,v 라 가정하자. 그러면 유도표현 U(S, (J', u) 는 유일한 기약 상, 즉, Lang la nds 상 J( S, (J', u) 를 갖는댜 게 다가, 임 의 의 G 의 기 약 허용표현굵즌 7T' ~ J(S , (J', v) 의 형태이다. 위 의 정 리 를 Lang la nds 분류정 리 라고 한다.

제 8 장 극소 K- 타입 이제부터는 G 를 선형연결 반단순군이라 하고 K를 극대 긴밀부분 군이라하자 . 이 장에서는 G의 허용표현의 극소 K- 타입의 개념을소 개하겠댜 Lang la nds 분류정리는 G 의 기약인 허용표현의 K- 타입의 정보를 얻는 데 중요한 역할을 하고 있다. 실제로, G 의 기약인 허용 표현의 극소 K 터입은 Lang la nds 상 J (S,a,v) 의 매개변수 S 와 a 를 결정한다 극소 K 타입의 연구를 통하여 Langl a nds 상 J (S,a,v) 에 나타나는 K- 타입들을 알 수 있으며 이 K- 타입의 중복수는 1 임을 보 일수있다. g를 G 의 Lie 대 수라고 하고 g = t EB p를 Carta n 분해 라고 하자. 여 기서, t는 K 의 Lie 대수이다 t의 부분대수 b 를 고정시킨 후 뿌리시 스템 A := A(tC : bc) 의 양시스템 A+ 를 고정시키자. 최고 무게 A 룰 지니는 K 의 기약표현을 TA 로 표기하챠 (1r, V) 를 G 의 허용표현이라 고 하자. 1rlK 안에 나타나는 모든 K- 타입 TA’ 중에서 함수 !i.rr(A') := IA ' + 28Kl2, TA' C 1rlK (8.1) 가 A' = A (단, TA C 끼 K) 에서 극소값을 가질 때 K- 타입 TA 를 硏긱

극소 K- 타입이라고 한댜 여기서, 81( := ½I :aE6 .+ (dim g0 )a. 주의 8.1 (1) G 의 기약 허용표현의 극소 K- 타입의 개수는 적어 도 한 개 이상이며 유한개이다. (2) G 의 기약 허용표현의 극소 K- 타입은 뿌리시스템 스의 양시스 템의 선택에 무관한다. 이 제 rank G=rank K 라고 가정 하자. S = MAN 을 Carta n 부분 대수 a EB b_( 단, a 드 p, b_ 도 t)로부터 얻어진 포물적 부분군이라 하자. rank G=rank K 의 가정 에 의 하여 , b_ 드 b 됴 t의 조건을 만 족하는 g의 Carta n 부분대수 b 가 존재한다고 가정할 수 있을 뿐만 아니라 b 는 Cayl e y 변환에 의하여 a EB b- 로부터 얻어진다고 가정 할 수 있댜 게다가, A 안에 강하게 직교하는 (st rong l y orth o g o nal) 비긴밀뿌리 야, ••• , a1 이 존재하고 a EB b_ 는 b 로부터 Cayl e y 변환 C=Ca1''· Ca1 에 의하여 얻어진다고가정할수 있다. 스 안에 있는 뿌리 a 가 aEL 惡 a j이면 a 를실수뿌리, j= l 다 -E 惡 硏 1 면 a 를 허수뿌리 j= l 라고 하고 만약에 a 가 실수뿌리도 아니고 허수뿌리도 아니면 a 를 복 소뿌리라고한다. 6.r := {6. 안의 실수뿌리 들}, br := E R iH C tJ 라고 놓자. 그러면, b = b_ ® bT. E 를 (be)* 에서 (b~)* 위로 가는 사

상으로서 E( 'Y) := Ll < ,回, O|2: j > 악 1 E (be)* (8.2) j= l 으로 정의되는 직교 투사사상이다 . 부분대수 9r := gn ( b~ EB L C • E{3 ) {3E 6 는 g의 0- 불변 반단순 부분대수이며 惡상에서 분할 (s p l it)한다. Gr 을 g r 에 대응하는 G 의 해석적 부분군이라 하자. 그러면 Gr 은 선형연결 인 반단순군이 댜 Kr := K n Gr 은 Gr 의 극대 긴밀부분군이 고 이 의 Lie 대수는 tr := t n 9r 이다. 게다가 rankGr=rankKr. br 은 g의 Carta n 부분대수이고 br 됴 t r 이다. 뿌리시스템 6(g~ : b~) 는 Ar 과 동일하게 볼 수 있다. l::,._ := { (3 E 6 I (31 b, = 0 } 이라고 하자. 그러면 Lie 대수 b_ 는 m 의 긴밀 Carta n 부분대수이고 mc = bf ® > C • c(E/3 ) /3E A- 이 다 ^ _ 를 6(b 흔 : mc) 와 동일하게 볼 수 있댜 뿌리 벡 터 c(E /3)가 tc 안에 포함되 면 /3를 M- 긴 밀 뿌리 라고 부르고 c(E/ 3)가 pC 안에 포함되 면 g를 M- 비긴밀뿌리라고 한댜 6-, c := {6-안 에 있는 M_ 긴밀뿌리들}, M i :=M。 ZM 이라 하자 . 여기서, Mo 는 M 의 단위원 성분이고 ZM 은 M 의 중심이 댜 요는 Lie 대수 b_ 에 대응되는 Li e 군이라 하자. 그러면, MU =

l\ll oF(B_ )이댜 여기서, F(B_) 는 1c( /3)(단, {3 E Lr) 들에 의하여 생성 되는부분군이댜실제로 ,F(B_ )는 Gr 의 극소포물적 부분군의 M - 군 이댜 그러므로, M 의 이산표현과 이산표현의 극한은 짝 (.Xo , (t::,._)+) 와 M겨 지표 x 에 의해 주어진댜 c = 군(.X o, (스_)+, x) 를 M 의 이산표현 또는 이산표현의 비퇴화 극한이라고 하자. ^_에 대한 양시스템 (L_) + 를 선택함으로써 8-, c := ~1 L a, oE(b ._, c)+ &:=51 E a a:E (!::,._)+ 를 결정한다 군fo ( .X o, (6_ )기의 Blatt ne r 매개변수 A 는 >. = Ao + 8-28 _,c 로 주어진다. 6 := 6(gc : b 의에 대하여 (1), (2), (3), (4) 를 만족하는 양시스템 6+7}-존 재한다는 사실은 잘 알려져 있다. (1) (6_)+ 도 6+. (2) Ao 는 A+ -지배적이댜 (3) /3 E l).+ - b. r 이 면 Sa1 • • • Sa1/3 > 0 이 댜 (4) C1 = • • • = Ci-1 = 0, Ci > 0 이 면 /3 = L~=i Ck O'. k 는 A+ 의 원 이댜 (1)-(4) 의 조건을 만족하는 양시 스템 A+ 를 Ao 와 (6_) + 와 양립 한 다고한다. 정리 8.1( 극소 K- 타입 공식) G 는 선형연결인 반단순군이라 하 고 rank G=rank K 라고 가정하자. b 를 t의 긴밀 Carta n 부분대수라 고 하자. 다음의 조건 (1)-(4) 를 가정 하자.

(1) S = MAN 은 강하게 직교하는 비긴밀뿌리의 수열 아 ... ' 야 로부터 Cayl e y 변환을 통하여 얻어지는 첨점 포물적 부분군이라 하 자. (2) Gr 은 g r 에 대응되는 G 의 해석적 부분군이라 하자. (3) 상기에서처럼 u := 1rM(Ao, (6_)+, X) 를 M 의 이산표현 또는 이산표현의 비퇴화 극한이라고 하자 . (4) 접는 스의 양시스템으로서 Ao 와 (6_)+ 와 양립한다고 가정하 자. 그러면, 유도표현 U(S,u,v) 의 극소 K- 타입 TA 의 중복수는 1 이고 A = A -E(2 6x) + 2 競 + µ 의 형태이댜 여기서, A 는 Blatt ne r 매개변수이고 E 는 (8.2) 에서 정 의 된 사상이 댜 그리 고, Tµ 는 GT 의 주조성 렬 표현 U(Sr, Ur, V) 의 극 소 K 타입이다.단, 따 := X • exp (E (26K) -2 6Kr)1Mr 이고 ex p (E(26k) ― 26Kr) 은 KT 의 일차원 표현이다 역으로 유도표현 U(ST, 6T, u) 의 임의의 K- 타입 Tµ 는 해석적으로 정수이댜 또한, A 가 역시 Ak 에 대하여 지배적이면 TA 는 U(S,u,v) 의 극소 K- 타입이다 정 리 8.2 rank G=rank K 라 가정 하자. S = MAN 과 S' = M'A'N' 을 첨점 포물적 부분군이라고 하자. 그리고, 6 와/을 각각 M 과 M’ 의 이산표현이라 하고 유도표현 U(S,u,O) 와 U(S', u',0) 가 동일한 극소 K- 타입을 공유한다고 가정하자. 그러면, k · u = u', kMAk-1 = M'A' 의 조건을 만족하는 K 의 원 k E K 가 존재한댜

정리 8.3 G 를 선형연 결 인 반단순군이라 하고 rank G=rank K라 고 하자 . U(S,CI , V) 를 M 의 이산표현 g로부터 유도된 기 본 표현이라고 하자. 그러면 U(S,CI , V) 의 기약성분의 최소 K- 타입은 역시 U(S,CI,V) 의 극소 K- 타입이다 정리 8.4 G 를 선형연결인 반단순군이라 하고 rank G=rank J(라 하자. 그리 고 (1)-(4) 의 조건을 만족한다고 가정 하자 . (1) S=MAN 은 첨 점 포물적 부분군이댜 (2) (T는 M 의 이 산표현 또는 이 산표현의 극한이 댜 (3) V 는 (a*)C 의 원으로서 Re v 는 닫힌 양의 Wey l 방에 포함된댜 (4) Wu,v = ~ .v· 그러 면, 유도표현 U(S, CT, V) 는 유일한 기 약상 J( S, CT, V) 를 지 니 며 Lang - lands 상 J( S, CT, V) 는 U(S, CT, V) 의 모든 극소 K 터입 을 포함한다 여기서, Wq , U 와 w 』 , u 의 정의는 다소 복잡하여 생략하지만 이들의 정의는 각각 [12](565, 578 쪽)에서 발견할 수 있다. 상기의 4 개의 정 리의 증명은 생략하겠다. 이의 증명은 [12](626 - 646 쪽)에 있다.

제 9 장 Ki ri l l ov 궤 적 방법 여 기 서 는 러 시 아의 수학자 Alexander A. Ki ri ll ov (1926-) 의 중요한 업 적 중의 하나인 군표현론에 관한 궤 적 방법 (orbit me t hod) 에 관해 설명하겠다 . 9.1 Lie 군의 쌍대수반궤적 Lie 군 G 의 쌍대수반궤적 (coad j o int orb it)의 연구는 G 의 유니터 리 기약표현의 연구와 아주 밀접하게 연관되어 있다. 특히 멱영 Lie 군의 경우, 이 연관성은 1960 년 초반 K i r ill ov 에 의해 명백하게 밝혀 졌댜 그후 일반적인 Lie 군인 경우에는 Ki rillov 학파에 의하여 그 연 관성이 지금까지 연구되어 오고 있다. 이제, G 룰 유한차원의 단순연결 Lie 군이라 하고 g를 G 의 Lie 대 수라고하자. 임의의 xEG 에 대하여 수반사상 Ad(x) : g ―一 g (9.1. 1)

는 G 의 자기 내부 동형사상 lx(9 t-----t xg x -1, g E G) 의 G 의 항등원에 서의 미분사상이댜 그래서 G 의 수반표현 (ad j o i n t rep re senta t i on ) Ad: G 一 GL(g) (9.1. 2) 를 얻는댜 실벡터공간으로서 g*를 g의 쌍대공간이라고 하자. 그러면, 임의의 x E G 에 대해 Ad(x) 의 반경사상 (con t ra gr ed i en t)을 Ad*( x) : g• _ ➔ g• (9.1. 3) 으로 표시하자. 행렬로서는 Ad*(x) = tA d(x-1). 마찬가지로, G 의 쌍 대수반표현 Ad* : G 一 ➔ GL(g* ) (9.1. 4) 을 얻는댜 Ad 와 Ad* 사이의 관계 를 구체적으로 기술하면, 임의의 X E g와 l E g*에 대하여 (Ad *( x)l)(X) = l(Ad(x-1)X). (9.1. 5) 이제, R- 선형함수 l E g*울 고정시키자. 그리고, G1 := {x E G j Ad*( x)l = l } (9.1. 6) 이라 하자. 그러면, Gl 은 G 의 닫힌 부분군이다 g l 을 Gl 의 Lie 대수라 고 하면 g l 은 g의 부분대수이 다 . 임의의 X E gz, Y E g, t E IR 에 대하여 < Y, l > =< Y, Ad :(e xp tX )l > =< Ad(ex p(-tX) )Y, l > =< e-ta dX(Y), l > =< X -t [X , Y] + t~2 [ X, [X, Y] ] + · · · , l > .

그러므로, t에 대하여 미분한 후 t =O 에서의 값을 계산하면, 우리 는

< [X, YI , l >= 0, vX E 91, vy E g (9.1 . 7) 의 관계식을 얻는다. (9. 1. 7) 을 기하학적인 측면에서 설명하겠다. 먼저, g에 왜대칭 惡-선 형 형식 Bl 을 B1(X, Y) :=< [X, YI , l >, X, Y E g (9.1. 8) 로 정의한다. 보조정리 9.1. 1 radB1 := {X E gjB 1(X, Y) = 0 vy E g} 라고정의한댜그러면, rad B1 = 91 = {X E gjad *( X)l = O}. 여 기 서 , ad* 는 쌍대 수반표현 (coadjo i n t rep re senta t i on ) Ad* 의 항등원 에서의 미분사상이다. 중명 (9. 1. 7) 에 의하여 91 ~ rad B1 이댜 역으로 X E rad B1 이면, 임의의 y E g와 임의의 실수t EC 에 대하여 < Y, l > =< e-ad(tX )(Y), l > (*) =< Ad(ex p(一t X))Y, l > =< Y, Ad :(e x p(tX ))l > .

상기의 관계식 (*)는 아래의 사실로부터 유도할 수 있다 』 < e-ad(tX )y , 1 >= 一 < [X, Y], l >= 0 t=O 이므로 < e-ad(tX )y 1 z >은 t의 함수로서 상수이다. t = O 에서의 값을 취하면 관계식 (*)를 얻는다. 상기의 관계식으로부터 임의의 t E lR 에 대하여 Ad*(exp (tX ))l = l 이므로 exp (tX ) E G1 이다 그러므로 X E g1. 따라서 radB 홉 g입을 증명하였다 임의의 X, Y E g 1 에 대하여 < Y, ad*(X)l > == '굶 I|t = 0<< YA,d (Aexd* p(e(x-tpX (t )X)Y )), l l> > t=O = -< ad(X)Y,l > = —< [X, Y], l >= 홀 (X, Y). 그러므로,우리는 radBi = {X E g I ad*(X)l = O} • 의 관계식을 얻는다. 사상졸! :G- g*은

아래의 전단사사상 어 G/Gl ----+ Ad*(G)l, 4>1 (xG1) := Ad*(x)l, x E G 는 g*의 coo 구조를 통하여 미분동형사상이 된다. 임의의 X E g와 임의의 실수 t E JR에 대하여 1 (exp tX) = Ad*(exp tX ) l = ead'(tX ) l = l + t ad*(X)l + ~t22( ad*)2 ( X)l + · · · 이므로 항등원 e 에서의 屯 l 의 미분사상 d 1 (e) : g ----+ g*는 d 1 (e)(X) = ad*(X) l, X E g (9.1. 10 ) 로 주어진다 그러므로 임의의 X, YE g에 대하여 B1(Y, X) =< [Y, X], l > = —< (adX)Y, l > =< Y, ad*(X)l > =< Y, d 1 (e)X > . XE g려면 임의의 y E g에 대하여 < Y, d 1 ( e) X >= O 이므로 dq >1 (e)X = 0 임을 알 수 있댜 그러므로 d q> 1(e) 의 상 dq> 1 (e)(g) 는 쌍대수반궤적 Ad*(G)l 의 l 에서의 접공간과 일치한다고 간주할 수 있댜 또, l 에서의 Ad*(G)l 의 접공간은 상벡터공간 g /radB1 과 동형 이다.

B1 은 상벡 터 공간 g/r adB1 = g/g,상에 B1(X + 91, Y + 91) := B1(X, Y), X, Y E 9 (9.1. 10 ) 와 같이 정의되는 비퇴화 왜대칭 R- 쌍선형 형식이다. 그러므로 (g/gI, B1) 은 심플렉틱 벡터공간이다. 정의 9.1. 2 M 이 coo 다양체로서 M 상에 비퇴화이며 닫힌 2- 미 분형식 파가 존재할 때 (M, w) 를 심플렉틱 다양체라고 한댜 그리고 w 를 심플렉틱 형식이라고 부론다. 끝으로 쌍대수반궤적 n := Ad*(G)l 이 심플렉틱 다양체임을 증명 하겠댜 우선 아래의 사상 61 : g -+ 따(Q)를 61(X) := ad*(X)l, X E g (9.1. 12 ) 로 정의한댜 여기서, 따(Q)는 l 에서의 Q의 접공간이다. X1 := 61(X) = ad*(X)l 이라 두면 Xl 은 9 상에 자연스럽게 정의되는 coo 벡터장을 제공하여 결국에는g*상에 coo 벡터장 X 를 제공한다. 이때 X 를 X E g에 대응 되는 g*상의 벡터장이라고 한다 이제 0 상에 2- 미분형식 Bn 를 Bn(X, Y) := B1(X, Y), X, Y E g (9.1 . 13 ) 로 정의한댜 ker Al =g l 이므로 Bn 는 잘 정의되어 있다. 보조정 리 9.1. 3 Bn 는 비 퇴 화이 다.

Ʌ� X �� X E g�� �Q���� g*��X� coo ��0ѥ�<�\�h� ��X�X� y E g

�� �X��� Bn(X, Y) = o X� p�t�D� ̹q�\��� XՐ�. ��0��, Y �� y E g

�� �Q���� g*��X� c oo�0 ѥ��t

�� ��X�X� y E g�� �X��� Bn(X, Y) =< [X, Y], l >_ = O t���\� �p�Ȭ� .91. 1 �� X�X��� X E g

l t�� . �����\�, X = O. 0�|� � B�l�� D���T�t ��. " �p�Ȭ� 9.

1.4 Bn �� 벌� 2-

�������t��.Ʌ � X1, X2, X3 |� X1, X2, X3 E g��

� Q���� Q��X� C�� �� 0ѥ�t�|�� XՐ�. � ��t�, dBn(X1, X

2,X t� =X1(Bn(X2, X �t) NX2B(n(X1, X3)) + X3B(n(X1 x,�)) -Bn([

�� X L�, X t� + B, n([X1 X,t� , X2) Bn([X2, X t�

X1) =- < [[X1, X ��, x t� [[X1, X t�, X �� + [[X2, X t�,

9.2 극화성 g를 체 K 상에 정의된 Lie 대수라 하고 g*룰 이의 쌍대공간이라 하자. 원 l E g볼 고정시키자. g상에 왜대칭 K- 쌍선형 형식 B1 : g x g一 K 를 B1(X, Y) :=< [X, Y], l >, X, Y E g (9.2.1) 로 정의한다. g의 부분대수 b 가 B1 에 대하여 g의 전등방적 부분공간 (tot a l ly iso tr o p ic subspa ce) 일 때 , 즉 Bd~x~ =< [lJ, lJ], l >= 0 일 때 h 를 l 에 종속적 (subord i na t e) 이라고 한다. 정의 9.2.1 l E g*에 종속적인 Lie 부분대수 h 가 Bl 에 대하여 극 대 인 전등방적 부분공간일 때 h 를 l 에 대 한 g의 K- 극화 부분대 수 (K­ p olar iz a ti on) 라고 한댜 분명히, Z9 C rad Bi C £) . 여기서, Z g는 g의 중심이고 rad Bi := {X E g l Bi ( X, Y) = 0 Vy E g }. 이제 ,E 를K 상의 유한차원 벡터공간이라하고 B: ExE-+K 를 왜대칭 K- 쌍선형 형식이라고 가정하자. E 의 부분집합 A 에 대하여 A. i := {x E EIB(x, y) = 0 Vy E A} 로 정의한다. 정의에 의하여 radB = E. i.

F 를 E 의 벡터부분공간이라 하고 K- 선형사상 fF : E ― ➔ (F/Fn radB)* 를 !F(x ) := B(x, ·)IF , x E E 로 정의한다 그러면 ker fF = F1 .. 그러므로 dim K F -dim K(F n rad B) + dim K Fl . = dim K E. (9.2.2 ) E의 부분공간 F 가 F 드 F 1.의 조건을 만족하면 F 롤 B에 대하여 등 방적이다(i so t ro pi c) 라고 한댜 만일, F 가 E 의 등방적 부분공간이면 2 dim K F 독 dim K E + dim K(F n rad B) (9.2.3) 의 관계를 얻는다. 보조정 리 9.2.2 E 를 유한차원 인 K 상의 벡 터 공간이 라고 하자. 그 러면 E의 부분공간 F 가 B 에 대하여 등방적인 벡터부분 공간 중에 서 극대이기 위한 필요충분조건은 2 dim ;< F = dim KE +

7r : E 一 E/radB 를 자연스런 투사사상이라 하자. F := 7r 크 (L) 이 라 놓으면 F 는 B 에 대하여 E의 등방적 부분공간이며 radB c F, dim I< F = ~21 dim K(E/rad B) + dim K(rad B) = _21 d--i-m- - I.<. E- -i 2l dim K(rad B) + dim K (ra d B) = i21 dim K E + i21 dim K (rad B) 의 조건을 만족한다. P 가 E 의 등방적 부분공간으로써 rad B 를 포함 하면 1r(P) 는 상벡 터 공간 E/rad B의 등방적 부분공간이 다 . 따라서 , 보조정리 9 . 2.2 의 증명을 끝낸다 . • 정리 9.2.3 g룰 K상의 Lie 대수라고 가정하자. l E g * 에 대하 여 Bl 은 (9.2.1) 과 같이 정의되는 왜대칭 K- 쌍선형 형식이라고 하자. h 가 g의 부분대수로서 Bl 에 대하여 l 에 종속적이라 가정하자. 그러 면, (1)-(4) 는 서로 동치관계에 있다. (1) Q는 l 에 대하여 g의 K- 극화 부분대수이다. (2) X E g이고 임의의 y E Q에 대하여 B1(X, Y) = 0 의 조건을 만 족하면 XE Q이다. (3) Q.L C Q. 여기서, h.L := {X E g IB1(X, H) = 0 VH E Q} 중(4)명 < lim보K 조 Q정= 리 ½ (9< .li2m. 2K 를 g +이 d정im 리 K에 {r ad적 B용)하 ) . 라 . •

9.3 Ki rillo v 대 응 이 절에서는 K i r ill ov 의 주요 업적 중의 하나인 궤적방법에 관하여 간략하게 설명하겠다. G 를 단순연결 Lie 군이라 하고 H 를 G 의 닫힌 부분 Lie 군이라 하 자. h 를 H 의 Lie 대수라고 하자 .l E g*에 대하여 H 의 유니터리 지표 XI,h : H --+ C1 을 X1, ~ (exp H X) := e2ir i , X E [J (9.3.1) 로 정의한다 단, ex pH : [J ― ➔ H 는 H 의 지수사상이다. 임의의 X, YE [J에 대하여 < [X, Y],l >= 0 (9.3.2) 이댜 (9.3.2) 를 증명하겠댜 우선, 임의의 X, Y E !J에 대하여 exp H [X, Y] E [H, H] 이고, 임의의 g E [H, H] 에 대하여 Xi.~ ( g) = l. (9.3.1) 에 의하여 1 = x1,~(exp H [X, Y]) = e2ir i<[ X,YJ , I>, X, y E (J 이므로 < [X, Y], l >를 정수이댜 만약에, < [X, Y], l >= n-# O 라 면, 우리는 충분히 작은 양의 실수 t에 대하여 1 = x1,~(ex pH [tX , Y]) = e2ir itn -# 1, tn ~ Z 와 같은 모순이 되는 관계식을 얻는다 . 따라서, (9.3.2) 를 얻는다. 정리 9.3.1 G 를 단순연결인 멱영 Lie 군이라 하고 g를 G 의 Lie 대수라고 가정하자. g*를 g의 쌍대공간이라 하자. 그러면 임의의 l E g*에 대하여 l 에 대한 g의 R- 극화 부분대수 b 가 존재하여 아래의 단

항표현 따 := lndi Xl,Q 는 G 의 위상적인 기약표현이다 여기서, H 는 부분대수 h 에 대응되 는 G 의 닫힌 부분군이고 Xl , Q는 (9 . 3.1) 과 같이 정의된 H 의 유니터리 표현이다. 정리 9.3.2 G 를 단순연결인 멱영 Lie 군이라 하고 g를 G 의 Lie 대수라고 가정하자. h 가 어떤 원 l E g*에 종속적인 부분대수라고 하 자. 그러면, G 의 단항표현 1nd? xLh 가 위상적인 기약표현이기 위한 필요충분조건은 h 가 l 에 대한 g의 R 극화 부분대수인 것이다. 상기의 두 정리의 증명은 [13] 에서 찾을 수 있다. 앞으로, 앞절과 위에서 사용한 기호를 그대로 사용하겠다 . h 를 l E g*에 대한 g의 R- 극화 부분대수라고 가정하자. 그러면, l+h .l이 g*의 affine 공간이란 사실과 정리 9 . 3 . 2 에 의하여, 임의의 lo E l+ Q.l에 대 하여 b 는 lo 에 대한 g의 恥극화 부분대수임을 보일 수 있다 . 여기서, b.l := { A E g기 < X, >. >= 0, yX E Q} 이댜 실제로, h 는 lo 에 종속적이고 llry = lol ry이므로 Indi Xl,ry ~ Indi X10,ry 이댜 그래서, G 의 단항표현 lndi Xlo, ry는 위상적인 기약표현이댜 정 리 9.3.2 에 의하여 b 는 lo 에 대한 g의 R 극화 부분대수이다. 이제부터는 기호편의상 G 의 단항표현을 따 := lndi Xl,Q (9.3.3)

로표기하기로한다 . 보조정리 9.3.3 H 가 단순연결인 Lie 군 G 의 부분군으로 연결이 라고 가정하자. 또 H 의 Lie 대수 h 가 l E g * 에 대한 g의 K- 극화 부분 대수라고 가정하자 . 그러면, 임의의 lo E l + fJ.L에 대하여 Ad* (H)lo = lo + ~.l. (9.3 . 4 ) 중명 h 는 임의의 lo E l+ 硏에 종속적이기 때문에 ad* (f J) lo ~ 硏임 올 쉽게 보일 수 있댜 실제로 임의의 X, YE fJ에 대하여 < Y, ad* ( X) lo > = — < ad(X)Y, lo > = -< [X, Y], lo > = 一 B[ 。 (X, Y) = 0 이므로 ad*(X) lo E fJ .L 이기 때문이다 반면에, ad*( h )h.L g h.L (9.3.5 ) 의 관계식이 성립한다 . 왜냐하면, 임의의 X, Y E fJ와 임의의 .X E 硏에 대하여 < Y, ad* (X ).X > = —< ad(X)Y, .X > = 一 < [X, Y], .X > 이므로 ad*( X ).X E fJ .L 이기 때문이다. 그래서, ad*(fJ) (l + 衍) 도 硏 (9.3.6) 의 관계식을 얻는다. 그러므로 임의의 lo E l + fJ.L에 대하여 Ad (H)lo ~ l + fJ.L. (9.3.7)

사상 仇。 : G --t g를 o (x) := Ad*(x)lo, x E G 로 정의한다 ((9. 1. 9) 를 보라). 그러면, 항등원 e 에서의 o 의 미분사 상 d o (e) : g -—-t g*는 d o (e)(X) = ad*(X)lo, X E g (9.3.8 ) 로주어진다.그러므로 ker d o (e)I~ = IJ n rad B10. 그리고 h 가 lo E l + g.l에 대한 g의 R 극화 부분대수이기 때문에 rad B10 ~ 1J이 댜 그래서 정 리 9.2.2 에 Ad*(H)lo 의 실차원은 dimR 1J - dim JR (rad B1 。) = dim R g _ dim R b = dim R h.l 으로 주어진다. 그러므로 아래의 집합 {Ad :(H )lo I lo E l + IJ.l } 은 l+ IJ.l의 열린 부분집합이다. 따라서, Ad*(H)l 은 l+ IJ.l의 열린 부 분집합일 뿐만 아니라 닫힌 부분집합이다 .l+ IJ나트 연결이기 때문에 Ad :(H )l = l + 1)1. 이다. • 보조정 리 9a.3(. f4) :사= 1상b ..LLa f :( lC + c (ll ')+ d flJ',. l) ―f 구E C C 는c( l + fJ.l) (9.3.9)

으로 정의된 등질공간 H/G,nH 상의 측도라고 가정하자. 그러면 , 측 도 o 는 H 의 쌍대수반 작용에 불변이다 . 중명 임 의 의 y E H 에 대하여 Ad*( y ) l -l E [J.L 이기 때 문 에, 임의의 함수 f E Cc(l + [J.L)에 대하여 /4h..1l f(A d*( y ) ( l + l')) dl' = /4.l f(l + Ad *(y)l ')dl' 이댜 임의의 y E H 에 대하여 | det( A d*(y) IQ .l) |= 1 이거 때문에, 매 개변수의 변환을 통해 상기의 보조정리를 증명한다 . • 이제, G 를 단순연결인 멱영 Lie 군이라고 하자 . dX 를 G 의 Lie 대 수 g상의 Lebesgu e 측도라고 하자. 그리고 지수사상 exp : g -+ G 를 통하여 dX 로부터 유도된 G 상의 측도를 dx 로 표기하자 그러면, 임 의의 함수 ¢ E Cc (Gl)a 에

Four(iCe Fr 9쌍(대 f) )변( l'환) : =C 1Tg : fC(X 훈 ()g )e2 _ i-<- Xt ,C l('> g *dX)는, l' E g• (9.3.1 2 ) g 로 정의된다 그러1면,f (우Y )리 d는Y = 1.l (CF g (f)) (l') dl' (9.3.1 3 ) 으로 주어지는 Pois s on 공식을얻는다 . 정리 9.3.5(Ki ri l lov ) G 를 단순연결인 멱영 Lie 군이라 하고 g를 이의 Lie 대수라고 가정하자 . 또 h 를 선형함수 l E g*에 대한 g의 R 극 화 부분대수라고 하고 H 를 h 에 대응되는 G 의 닫힌 부분군이라 하 자. 그러면, G 의 단항표현 7r/,IJ := lndi Xl , IJ의 지표는 트레이스류이 댜 구체적7r 奭으)로(f 설)명 :하= 면JG, ¢임(x의)(7의rl ,h< / (> xE) fC) 훈 d (xG, ) 에J 대하여 E H (9.3 . 1 4 ) 는 트레이스류의 작용소이다 . 여기서, 1-l는 7r[, fJ의 표현공간이다. 그 리고 쌍대수반궤적 Ad*(G)l = G/Gz 상에 G 의 쌍대수반 작용에 불변 인 측도/3가 존재하여 Tr 1r1, 福) = 1d•(G\ l CF9(cp o exp )( l') d{3 ( l') (9.3.15) Ad•(G)l 으로 주어지는 지표공식을 얻는다. 이의 증명은 [13] 에 소개되어 있다. 따름정리 9.3.6 !J 1 과 h2 를 선형함수 l E g*에 대한 g의 R- 극화 부분대수라고 하자. 그러 면, (TI,hp H1) 과 (1r1.~2, 1-£ 2) 는 유니 터 리 동 치 (unitar ily eq uiva lent) 이 댜

중명 궤 적 Ad*(G)l = G/G 강에 G 의 쌍대수반 작용에 불변인 두 측도 fT3 T1 과 7 rlg,h 2) 가@ ) 존= 재J하Ad여• (G )임 l 의따의 (함¢ o수 e x¢p )E ( lC') 훈 d ((3 G1 ) ( 에l') , 대j하 =여 1 , 2 의 관계식 이 성 립한다 . 그리고, f32 = a f3 1( 단, a > 0) 이므로, 임의의 ¢ E C 훈 (G) 에 대하여 Tr ?Tl ,Qi (¢) = a • Tr 1r1,Q 2 ( ¢) . 정리 9.3 . 2 에 의하여, a = l 이란 사실과 유니터리 뒤얽힌 동형사상 拓 一 1l2 의 존재성을 보일 수 있댜 ■ 정리 9.3.7 G 를 단순연결인 멱영 Lie 군이라 하고 g를 이의 Lie 대수라고 가정하자. ii E g*와 l2 E g*룰 g상에 정의된 R- 선형함수라 고 가정하자. 그리고, h1 과 h2 는 각각 h 과 l2 에 대한 R 도 극화 부분대수 라고 가정하자. 그러면, Th , h1 과 Tl2 , h2 가 서로 유니터리 동치이기 위 한 필요충분조건은 Ad* (G )li = Ad*(G)l2 인 것이댜 중명 G 의 두 단항표현 (71/i, ~ j, 11,j) (단, j = 1, 2) 가 유니 터 리 동치 라고 가정하자. 그러면 임의의 ¢ E C훈 (G) 에 대하여 Tr 1r11, ~1 (¢) = Tr 1r12 ,~2 (

의 관계식이 성립한다. 그러므로, /31 = /32 이기 때문에 Ad*(G)l1 = Ad*(G)l2. 역으로, Ad*(G)li = Ad*(G)l2 라고 가정하자. 그러면, 임의의 ¢ E C 훈 (G) 에 대하여 Tr 1r12,~2 (¢ ) = a • Tr 1r11, ~1 (¢) (단, a > 0) 정리 9.3.2 에 의하여, a=l 이란 사실과 유니터리 뒤얽힌 동형사상 1£1 -1£ 2 의 존재성을 보일 수 있다. 여기서, 1£ 1 과 1£ 2 는 각각 1r1, , 1J 1 과 1r12, IJ 2 의 표현공간이다. • 끝으로 , 지금까지의 결과들을 한마디로 요약하면 다음과 같다 . 정리 9.3.S(Ki ri l lov ) G 를 단순연결인 멱영 Lie 군이라 하고 g를 이의 Lie 대수라고 가정하자 .l E g*를 g상의 惡-선형함수라고 하자 . 그러면, l 에 대한 R- 극화 부분대수 b 가 존재하여 7r/, ry는 위상적인 유 니터리 기약표현이고 트레이스류이다. 그리고, l E g*에 대하여, l' E g * 가 l' E Ad * (G)l 이라고 가정하 고 h' 이 l’ 에 대한 R- 극화 부분대수라고 가정하면 , 두 단항표현 7rl , ry와 먀 5' 은 유니터리 동치이다 역으로, h 와 h' 이 각각 l E g * 와 l’ E g*에 대한 R- 극화 부분대수 이고 두 단항표현 7rl,h 와 'lr l' , ry'이 유니터리 동치라고 가정하면 l' E Ad*(G)l 이댜 마지막으로, G 의 유니터리 기약표현 7r1 이 주어져 있다고 한다면, 항상 G의 쌍대수반궤적 0 가 존재하여, 임의의 l E 0 와 l 에 대한 R- 극화 부분대수 b 에 대하여 7r1 과 7rl,h 는 유니터리 동치이다. 유의 9.3.9 G 가 단순연결인 멱영 Lie 군이라 하면, 쌍대수반궤

적공간 g * /G 와 G 사이에 일대일 대응관계가 존재한다. 이 대응을 Ki ril l o v 대응이라고 한다 . 따라서, 쌍대수반궤적공간 g * /G 를 통하여 G의 유니터리 쌍대 G 를 매개화할 수 있다

제 10 장 Borel-Weil 정 리 이 장에서는 연결 긴밀군인 경우의 Borel-We il에 관하여 설명하겠 댜 이 정리는 후에 비긴밀 반단순 Lie 군의 경우에 일반화되어 R. Bott , B. Kosta n t, W . Sch mid 등의 수학자들에 의 하여 연구되 었다. 이 장에서는 G 를 유한차원의 연결인 긴밀군이라 하고 g를 이의 Lie 대수라고 하자. G 상에 G 의 작용에 불변인 거 리 < , >이 존재하 며, adX 는 g상에서 < , >에 대하여 왜대칭 선형사상이 된다. T 를 G 의 극대 토러스라고 하고 h 를 T 의 Lie 대수라고 하자. 그러면, gc = h\ E g。 (직 합) (10.1) GEA 이댜 여기서, g C 와 bC 는 각각 g와 h 의 복소화이고 6. := 6.(g : fJ)는 뿌리시스템이댜 그리고 g a( 단, a E b*) 는 ga := { X E g이 [H, X] = io:(H )X, 'H E fJ } (10.2) 로 정의된댜 h* 상에 순서를 다음과 같이 부여한다. w 의 기저를 취 한 후, 두 원 a, 0 E h* 에 대하여 a_ g의 첫번째로 0 이 아닌 좌표가

양수이 면 a _ {3 > 0 또는 a > {3으로 정 의 한다 . g0 # 0 일 때 Q를 뿌 리라고 하고 a > O 인 뿌리를 양의 뿌리라고 한다 . A + 를 위의 순서 에 대하여 양의 뿌리들의 집합이라고 하자. < , >를 gC X g C 상으로 확장할 수 있으며, 이 내적 < , >를 통하여 T 와 h 는 동일하다고 볼 수 있댜 그러므로 임의의 뿌리 a E 6에 대하여 a(H) =< H0, H >, H E £J (10.3) 의 성질을 만족시키는 h 의 원 Ha 를 선택할 수 있다. 보조정리 10.1 X E 9a, Y E 9a 이면 [X, Y] = i < X, Y > H,。 (10.4 ) 이다. 중명 Ja cobi 항등관계 를 이 용하여 [ga , gp] c ga+ p (10.5) 임을 쉽게 보일 수 있댜 그러므로, [X, Y] E 9o = ~c. 이제, 임의의 H E h 에 대하여 < [X, Y], H > =< Y, [H, X] >=< Y, i a(H)X > = ia (H) < Y,X > = i < H0,H >< Y,X > =< i < Y, X > Ha, H > . 따라서 , [X, Y] = i < Y, X > Ha 이 다. ■

보조정리 10.2 임의의 뿌리 a E 6.에 대하여 dim c g。 = 1. 중명 dim g0 츠 2 라고 가정하자. X 와 Z 는 g a 의 원소로서 일차독 립 이 고 Y(-/= O) 는 g _G 의 원이 며 < X, Y >= 1, < Z, Y >= 0 이 되도록 X, Y E gG, Z E g - O 를 취할 수 있댜 그래서 보조정리 10.1 에 의하여 [X,Y] = iH 0, [Z,Y] = 0 이 된댜 수학적 귀납법을 통하여 adY · (adXf Z = -~12n (n+ 1) a( H.라 (adX f -1 Z (10.6) 임을 쉽게 보일 수 있다 그런데, a(H0) =< H0, H0 >> 0 이기 때문 에모든원소 (ad Xf Z E 9{n+ l)o 는 영이 아닌 원이다. 따라서, dim g = (X)이 되므로 모순을 얻는다 .• 임의의 뿌리 aE6 에 대하여 < ea, e_cr >= 1 의 성질을 만족시키는 원 % E g 0 를 취할 수 있다. 그러므로 (ea, €-a ] = iH a. (10.7) 그리고 임의의 뿌리 a E 6에 대하여 e 士 a := Xe, 士 i Ya, Xa, Ya E g (10.8)

의 형 태로 표기 할 수 있다는 사실을 유의 하라. (10.7) 은 [xo, Yo] = -컵1 Ha (10.9 ) 의 조건과 동치임을 쉽게 알 수 있다 . (1r, V) 를 G 의 유한차원의 유니터리 표현이라 하자. 그러면, 7r 의 미분사상은 g의 왜대칭 표현이며 g C 상으로 확장될 수 있다. 7r 의 미 분사상도 역시 m 로 표기하자. Lie 대수 g C 에 대응되는 단순연결인 Lie 군 G 는 자연스런 복소구조를 지니고 있으므로 복소다양체이다. G1 를 Lie 대수 g에 대응되는 G의 Lie 부분군이라고 하자. 보조정리 10.3 G1 은 G 의 피복 (cover) 이댜 중명 G 는 연결인 긴밀군이기 때문에 G 의 충실한 표현(fait h f ul rep re senta t i on ) (p, W) 를 취 할 수 있댜 그러 면, g의 표현, g c 의 표현, G 의 표현 찌를 취함으로써 원하는 피복사상 i : G1 _ G 를 얻는다. ■ 院의 핵 r := ker(p : G1 ---+ G) 는 G1 의 중심의 이산부분군이다 해 석 적 연속에 의 하여 r 는 C 안에 포함되 며 GC := GIr 는 Lie 군으로 서 이의 Lie 대수는 g c 이다. g의 복소화 g c 의 표현 7f는 GC 의 해석적 표현 (holomor phi c rep r esenta t i on ) 1r 를 제공한다 . 즉' 7f의 행 렬계수함 수는 해석적 함수이다. T 가 G 의 극대 토러스이고 (1r, V) 는 G 의 유 한차원의 유니터리 표현임을 상기하라. V 상의 T 의 작용은 동시에 대각화될 수 있다. A E ~*에 대하여 V>. := { v E Vj 1r(H)v = i A(H)v, vH E ~ } (10.10) 라고놓자.그러면, V = EB 나 A, A 는 무게 (10.11)

임을 쉽게 알 수 있다. 임의의 뿌리 a E 6 에 대하여 Ea := 1r(ea) {10.12) 라고정의하자 . 이제, 무게공간 VA 상의 작용소 Ea 에 관하여 공부해보자. [H, eo] = i a(H)e0, H E ~ (10.13) 이므로 1r(H)Ea = Ea 1r(H) + i a(H) Ea (10.14) 의 관계식을 얻는다. 정리 10.4 임의의 뿌리 a E 6 에 대하여 Ea : Vi. _ ➔ V..\+a, 죽 Ea(V i.) C Vi.+ a· (10.1 5 ) 특히, A 가 무게이고 a 가 뿌리이면 Ea(V i.) = 0 이든가 ,\+a 는 무 게이댜 중명 V E Vi.라면, 임의의 H E fJ에 대하여 1r(H)(E0(v)) = E0(1r(H)v) + ia(H ) E0(v) = i (,\ + a)(H) E0(v) 이다 여기서, (10.14) 를 사용하였댜 그러므로, E0(v) 는 무게공간 V..\+a 의 원이다. • 이미 언급한 h* 위의 순서는 자연스럽게 무게들의 집합 위에 순서 롤 유도한댜 이 순서에 대하여 표현 (1r, V) 의 최고 무게 Am 과 최저

무게 >- s 를 얻는다. 정리 10 .4로부터 모든 양의 뿌리 a > O 에 대하여 Ea( V;나 = O (10.1 6 ) 이고,모든음의 뿌리 a 0, e # 0 인 무게벡터 g가 존재한다. (군, v*) 를 (1r, V) 의 반경표현이라고 하자. 즉, < g, 군(g)TJ >=< 1r( g나), rJ >, e E V, rJ E V* . (10.18) eo E V 를 거 대하여 더이상 올릴 수 없는 무게벡터라고 하자. 즉, 임의의 양의 뿌리 a>O 에 대하여 Eo(~o) = 0. (10.1 9 ) rJo E V 를 견 대하여 더이상 내릴 수 없는 무게벡터라고 하자. 즉, 임의의 음의 뿌리 a, g E G (10.21)

라고 정 의 하자. G 의 표현 (1r, V) 를 G 의 복소화 GC 에 확장할 수 있기 때문에 g는 GC 상에 정의되며 해석적 함수이다 . N. 를 집합 {e0la > 0} 에 의하여 생성되는 Lie 대수라 하고 N_· 를 집합 {eola > 0} 에 의 하여 생성되는 Lie 대수라고 하자. N.+ 와 N. 에 대응되는 GC 의 Lie 부분군을 각각 N+ 와 N - 라 표기하자. 그리고 D 를 극대 토러스 T 의 복소화라고 하자 . 만일, dim I R T = n 이라 하면, D 는 아벨군 (CX)n 과 동형이다 hc, N+ 와 N- 는 g C 를 생성하므로, 역함수 정리에 의하여 아래의 군 Greg := N_ D N+ (10.22) 는 단위원의 열린 근방을 포함하는 GC 의 부분집합이다. g = (8 z, ( E N_, 8 E D, z E N+ (10.23) 를 Gr e g의 원이라고 하자. 8 = exp ( h1 +ih2) (단, h1, h2 E 1J)이라고 두면 cp((g) = cp(g), cp( 8g ) = ei(µ (h1}+i µ( h2)) cp(g) (10.24) 이고 cp(gz ) = cp(g)' cp(g8 ) = ei(. \ (ht} +i.\(11,i)} cp(g) (10.25) 이다그러므로 cp( (8z) = cp( 8) = ei(, \(h1}+i, \( h2}) cp( l) = ei(µ (h1}+iµ (l!,i}) cp( l). (10.26) 보조정 리 10.6 cp( l) # 0. 중명 cp( l) =< eo, T/o >= 0 이 라고 하자. (10.26) 에 의 하여 Gre g상 에서 cp三 0 이댜cp는해석적 함수이고 Gre g는단위원 1 의 열린근방

올 포함하기 때문에 G 상에서 cp 三 0 이다 % := {~ E VI < 1r(g) ~, 까 o >= 0 '= 0 이 정리 10.7 (1r, V) 를 기약표현이라고 가정하자. 그러면, 더 이상 올릴 수 없는 무게 A 는 유일하게 존재하며, 다름 아닌 최고 무게이 다게다가, 최고 무게벡터는 상수를 무시하면 유일하댜 그리고 G 의 두 기 약표현 7r1 과 7r2 의 최고 무게가 같다고 하면 7r1 과 7r2 는 동치 이다. 중명 무게벡터 eo 와 no 를 정규화하면 cp( l) = 1 이 되도록 할 수 있 댜 그러면, cp는 아래의 세 조건에 의하여 유일하게 특징화된다는 사 실을 쉽게 알수 있다. cp : GC 一 C 는 해석적 함수이댜 (10.28) cp((gz ) = cp(g), v( E N_, vz E N+, g E Ge (10.29) 奭) = ei(A (h1)+i A (h2)), 단, 8 = exp (h 1 + ih2 ) E D. (10.30) 그러므로, G 가 최고 무게벡터이고 < 6, 까 0 >= 1 이라고 하면 cp(g) =< 1r(g) 6, T/O > 이므로 임의의 g E GC 에 대하여 < 1r(g) ( 6 -e o), T/0 >= 0, 즉, < & —g。, 군(g) T/O >= 0

이 된다 그런데, 군는 기약이므로 & —<0 = 0 이댜 따라서, 최고 무 게벡터는 상수를 무시하면 유일하게 존재한다. 71 1 = 71라고 해도 좋댜 A 가 (rr1, V1) 과 (1r2, i今)의 최고 무게라고 하 자. 우선, 71 2 에 대하여 최고 무게벡터 &를 취하고 7J;에 대하여 최저 무게벡터 n2 를 취한다 . 그리고 g2, 1J 2 가 < g2, 까 2 >= 1 이 되도록 정 규화한댜 함수 'P2 : G ----+ C 를 , g E G 로 정의한댜 그러면, A 가 71 2 의 최고 무게이기 때문에 , g E G (10.31) 로 정의한댜 만약에 7r 가 기약표현이면 (10.27) 에 의하여 정의되는 벡터공간 %는 Vo = 0 임을 이미 보였다. W>. := {!€ I € E V} c C00(G) (10.32) 라고 놓자. 그러면, 아래의 사상 v_J W A, g一 k 는 동형사상이다. G의 표현 (1r, V) 는 우정칙표현 (p, W>.) 에 의하여 아래의 (10.33) 과 같이 실현화된댜 p(g) f€(x ) := f€( xg ), f€ E W>., g, x E G. (10.33)

임의의 함수 f E W. x는 GC 상의 해석적 함수로 유일하게 확장된 댜 'T]o E V* 가 군에 대하여 최저 무게벡터이므로, 임의의 f E W. x에 대하여 f(( x) = f(x ), x E G 으 ( E N_ (10.34) 이다또, f(x o) = ei(> .(hi) +i> . (h2 )) f(x ), 단, o = exp (h 1 + ih2 ) E D (10.35) 이다 . X E g에 대하여 l(x)u(g) := d—dt t= O u((exp tX) -1 · g), g E G (10.3 6 ) 라고 정의한다 그러므로 X 는 G 상에 좌불변 벡터장이라고 간주할 수 있다 . X 를 Xe = X 인 G 상의 우불변 벡터장이라고 하자. 그러면 l(X)u = ― Xu 이다 만약에, ea = ia + iya (단, a < 0, Xa, Ya E g)이 면, (10.34) 에 의하여 (xa + i'fla) f = 0, vf E W>., (10.37) 이제부터,우리는 점a :=Xa+ ifl a, a<0 (10.38) 이라하자 . 정리 10.8 벡터공간 W 명 아래의성질 (10 . 39) 와 (10 .4 0) 을 만족 하는 coo 함수 f E C00(G) 들의 집합이라고 하자. 임의의 음의 뿌리 a < O 에 대하여 점 a f = 0 이다. (10.39) o = exp h E T 이 면 f(o x) = ei~ (h) f(x ) 이 다. (10.4 0 )

그러면 , WA=W d 이다 중명 분명히 W,\ C W 다 . wi c w집 을 보이기 위해서는 W 는 G의 우정칙표현 p의 작용에 불변이며 (p, w u ) 가 G 의 기약표현임을 증명하면 된댜 겅 0 는 우평행이동과 교환하므로, f E W ~ 이면, 임의 의g EG 에대하여p(g)f (x) EW 멍을쉽게알수있댜 이제, (p, w u ) 가 기약임을 증명하자. J E w a 를 더이상 올릴 수 없 는 무게벡터라고 하자 . 그러면, i = c • cp, 단, c 는 상수 임을 증명하면 (p, w ij )가 기 약임을 보일 수 있댜 여기서, 硏는 (10.21) 에 정의되어 있음을 유의하라. (10.39) 의 미분방정식계는 좌잉여류 g T 에 대하여 횡단 타원형성(t ransversal e llipticity)의 조건을 만족하 므로 w u 의 차원은 유한이고 W 떠 임의의 원은 실해석적 (real ana- l yti c) 이다 그러므로 f ij 는 GC 안에서 G 의 열린 근방 Q상으로 유일 하게 확장될 수 있으며 해석적 (holomor phi c) 이다. (10.39) 에 의하여 JU( ( x) = f~( x ), ( E N_, x E f2 (10.4 1 ) 이댜 F 는 더이상 올릴 수 없는 무게벡터이므로 임의의 양의 뿌리 a>O 에 대하여 p(e a) flt = 0 (10.4 2 ) 이댜 P 의 해석적 확장 P 에 대해서도 jU (xz) = f(x ), x E n, z E N+ (10.4 3 ) 이 다. 그러 므로

임을 보일 수 있다 따라서, G 는 W U 상에서 기약적으로 작용한다 즉, wu = W, x. ■ A. Borel(1923-) 과 A. We il (1906-1998) 는 1950 년대 초반에 정 리 10.8 을 매우 우아하고 아름답게 다른 형태로 기술하였다 . T 의 지표 x : T 一 CX , x(exp H) := ei.X ( H), H E ~ (10.4 4 ) 에 의하여 정의되는 주요 화이버속 G---+ G/T, 화이버 = T (10.4 5 ) 로부터 얻어지는 M := G/T 상의 해석적 선속 恥롤 생각해보자. 선 속 恥의 해석적 절단은 조건 (10 .4 0) 을 만족한다. 집합 {겅 ola < 0} 은 g C 를 생 성 하므로 Newlander-Ni re nberg 정 리 에 의 하여 M 상에 적 분가 능한 개복소구조(int e g rable almost comp le x s t ruc t ure) 를 정 의 한다 그러므로 M 은 복소다양체가 되어 선속 恥는 복소다양체 M 상의 해 석적 선속이다. E ..x상에 Lie 군의 G 가 자연스럽게 작용한다. 따라서 정리 10.8 을 아래와 같이 기술할 수 있다. 정리 10.9 G 를 연결인 긴밀군이라고 하자. 그리고 (1r, V) 를 G의 기약표현이라 가정하고 A 를 이의 최고 무게라고 하자 . 그러면, w,\ ~r(M,E,\) 이댜 여기서, r(M,E,\) 는 M := G/T 상의 해석적 선속 恥의 해석적 절단들로 이루어진 벡터공간이다. 상기 의 정 리 를 Borel-Weil 정 리 라고 한다

제 11 장 유니 터 리 군과 Heis e nberg 군 이 장에서는 SU(2), 유니터리 군 U(n), SL(2,C) 와 Heis e nberg 군 H Jf' h) 의 표현에 관하여 설명 하겠다. 11 .1 SU(2) G := SU(2) 라고 하자. 음이 아닌 정수 n 츠 0 에 대하여 Vn := Ln Czf z;- k, z1, z2 는 변수 k=O 라고 정의한댜 Vn 의 차원이 n+l 인 복소벡터공간이다 . Vn 상에 G 의 표현 ~n : G 一 GL(Vn) 을 로 정의한~다(.g) P 여(z기1서, z ,2) :g= = P( d(z 1: - b!z2 ), -Ec zG1 이 +고 a zP2) E Vn 이다(.1 1 그.1.러1) 면 ~n 은 G 의 유한차원의 기약표현이다. 실제로 G 의 유니터리 쌍대

G 는 G={

n (F)l11s := tn I (4>n (F)ui, U 가 (11.1. 3) i,j=l 으로 정의한다. 이 정의는 Vn 의 정규직교기저의 선택에 무관함을 쉽 게 알수있다 PLete Ir F-W(xe)yj2l 정dx 리 = 에 t 의 (하n여 + l)ll다n U )게),다 가f E G00(G). (11 .1.7)

공식 (1 1.1. 6) 과 (1 1.1. 7) 을 역 시 Plancherel 공식 이 라고 한다. 중명 분명히 T := { to = dia g (e i(J , e-i(J ) | O E 町 은 G의 극 대 긴밀부분군이다 간단한 계산으로 8n(t(J ) = ei( n + le)Oi(J —_ ee 국- i ((J n +l)(J (11 .1.8) 임을 쉽게 보일 수 있댜 Wey l 적분공식에 의하여 f E C00(G) 에 대 하여 fc !(x) dx = ~ h lei(J - e-(J1 2 la f(x t(J x -1) dx 뿐 (11 .1.9) 이F1댜(0 ) := (ei(J - e-i9 ) la f(x t9 x-1) dx = 2 i (sin 0) la f(x t(J x -1) dx G 라고놓으면 (n + 1) 8n( f) = ; [1I 걸 ( ei(n + l)9 + e-i(n + l)9 ) xF1(0) —2d10r (11 .1.10 ) 임을 쉽게 보일 수 있댜 그러므로 홀°° (n + 1) 8n( f) = 굽1 • fdo 草) 16=0 (11.1. 11 ) 그읊리 F1고(0 ) = 2i( c os 0) la f(x to x-1) dx + 2i( s in 0) 니 f(xto x -1) dx G

이기 때문에 걸 F1 (0) lo=o= 2 i f(l ) • 0=0 Tr이 cp것n (을f ) (=1 1.T 1r. 1l1a)G 에f (x대 ) 입cpn하 (x여) d(x1 =1. 1l. a6) 을f( x얻 ) T는r다(

로주어진다 그러므로 dim (Gx ) = m~ + · •• + m; 이 고 m 다 .. . + mr = n. 그리고 뼈 + ... + 짜 = n 늑 r = n 이 고 m1 = ... = mr = 1 의 동치관계를 쉽게 보일 수 있다 . 따라서 아래의 조건 (1)-(4) 는 서 로동치이댜 (1) dim (G/G x ) 는 극대 이 다 (2) dim (Gx) 는 극소이 댜 (3) X 는 n 개의 서로 다른 고유값을 갖는다. (4) X 의 고유방정식은 n 개의 서로 다른 근을 갖는다 . y가 nxn 복소행렬로서 이의 고유값이 >.1, ·· · ,>.n 이라고하자.그 러면 det( t • 1 -y ) = tn -c 1(Y) tn- l + · · · + (크 )n en(y) n = Il(t - .xj) j= l 이다 여기서 , t는 변수이고 1 = En 은 n x n 단위행렬이다. 이제 아래의 함수 曲(y) := Il(Ai 一 서 i# j 는 치환군 Sn 의 작용에 불변이기 때문에 1/J(y) = P((1'1 , • • • , 야) 의 형태로 쓸 수 있다. 단, P 는 다항식이고 야, ••• ,(J' n 은 기본적인 대 칭함수이다 . 그러면 다음의 함수 a(y) := P(c1(y) , • • • , en(y) )

는 변수 y의 다항식 이 고 o(y) t= o 이 기 위 한 필요충분조건은 y가 n 개 의 서로 다른 고유값을 갖는다는 사실과 동치임을 쉽게 알 수 있다. 여기서 n 개의 함수 c1(Y), .. • ,Cn(Y) 가 기본적인 대칭함수임에 유의 하라 이 때 , o( y)를 G 의 판별 식 함수 (d i scr i m i nan t) 라고 한댜 원 x E G 가 n 개의 서로 다른 고유값을 가지면 x 를 정칙 (re g ular) 이 라고 한댜 정칙원들의 집합을 G' 으로 표시하자. 그러면 G' 은 G 의 조 밀한 열린 집합이다. 집합 Gs := G-G' 을 특이집합 (s i n g ular se t)이 라고 한다. Q는 G의 해석적 부분다양체 (anal yti c subvar i e ty)이며 이 의 측도는 0 이다. D' :=G'nD 라고 하자. 임의의 x E G 와 t E D에 대하여 x t x-1 는 좌잉여류 xD 에 만 의존함을 관찰하여라. 그래서 함수 7/J : GID X D' -G' 을 1/;(x D,t) := xtx - 1, x E G, t E D' (11 .2. 1 ) 으로정의한다. 보조정리 11 .2. 1 (11.2.1) 에서 정의된 함수 心는 실해석적 함수이 고이의 미분사상은모든점에서 전단사사상이다.心는피복사상이고 이의 화이버는 찌개의 원소들로 이루어진 집합이다. 함수 6. : D ----t C 를 b,.(t) := II(ti - tj), t = (ti, • • • , tn) E D (11 .2. 2) i

의 관계가성립한다 . 상기의 보조정리의 증명은 연습문제로 남겨두겠다 . G 상에 정의된 Bg1o (rte)l :함= 수L ff 에( x 대tx 하- 1여) d xD, 상t에 E 정D 의되는 함수(1 19 . J2. 를4 ) G 로 정의한다 . 명제 11.2.2 Borel 함수 f가 L1(G) 의 원이기 위한 필요충분조건 은 9 J가 L1(D, 6-ZS: dJtG) 의f 원dx 인 = 것嵐이JD댜 9 f이 · A경E우d t (11.2.5) 의 관계가성립한다. 중명 / E Cc(G'), 즉, f가 G' 상의 연속함수로서 긴밀받침을 가지 면JG 보 f조(x 정 )d 리x ===1 1 ]志교.2 .1Jfl 건D에6 x 9D의f 7 f卒S하 (.d心여 t( 豆 dl,t a t )f) (Ax tEx - 海1) ddt x ■ 정리 11 .2. 3 A := {(m1,··· ,따) | m i는 정수이고 西 > m2 > ··· > mn} 이라 하자. 그러면 G = U(n) 의 유니터리 쌍대 G 와 A 사이에 자연 스런 일대일 대응관계가존재한다. 그리고 (m1, ... ,'1nn)에 대응되는

표현의 지표 e 西, ... ,mn 은 D 상에서 (%, '리 D = (~ sgn (u ) x::.., ....m ,,) / 6 (11 .2. 6) uESn 으로 주어진댜 여기서 Xm,.- · 血」은 D 의 지표로서 XmI,… ,m ,,(t) := t:1 .. ·t~•, t = dia g (t1, • .. ,tn) E D (11.2.7 ) 로 정의되며 s gn (u) 는 c 의 부호이다. (1 1. 2.6) 은 소위, Wey l 지표공식 이댜 중명 G의 유니터리 기약표현 7r 에 대하여 D 상의 함수 여』를 4>1 r := (81r)D • 6 으로 정의한다. 여기서 e 'lr는 7r 의 지표이다. 그러면 야 r 는 아래의 조 건 (1)-(3) 을 만족한댜 (1) 4> 1r 는 유한 Fourie r 급수이고 이의 계수는 정수이다. (2) 좋 1r 는 왜 대 칭 이 다. 즉, 4>~ = sgn (u) 4>1 r (u E Sn), (3) 삶 JD i 1r 굽'Ir' dt = 8[1r ),[리· 여기서, [끼는 硏긱 동치류이다. (1) 과 (2) 는 자명하고 (3) 은 직교성 관계로부터 얻어진다. 이제 (1) 과 (2) 를 만족하는 모든 함수들을 구하자. x E D 에 대하 여 戈 := I: sgn (a ) xu (11 .2. 8) cES,I 라고 하자. 그러면 렀는 (1) 과 (2) 를 만족한다. 아래의 성질 (4)-(6) 은 쉽게 증명할수 있다. (4) X2 rt Sn·x1 (즉, X1 와 X2 는 서로 다른 Sn- 궤적에 포함되면)이 면 (차 ,x2) = o 이댜

(5) X2 = Xf 이 면 X2 = s g n( a-)챠 이 댜 (6) X = Xm1, . .. , 마 이고 mi = m i이면 x = O 이다. (7) X = Xm1 , …, 四이고 m1, ••• ,mn 이 서로 다른 정수이면 )((a-E Sn) 은 서로 다르며 X = 土 Xl1.-·•, ln (l1 > l2 > ... > ln), llxll2 = n! 이댜 여기서, (li,··· ,ln) 은 (m1,·· · ,m 김을 감소하는 순서로 재정렬 한것이다. 그러 므로 (1) 과 (2) 를 만족하는 함수 쥰는

… >따 mEZ 의 형태로 쓸 수 있다 . 여기서 c(m1,··· ,mn) 은 정수이고 ll< Pl l2 = L I c(m1, • • • ,mn) j2 . (11 .2. 10) II7 r||2 = l 이므로 야제 대하여 (11.2.10) 의 합에서는 오직 한 개의 n- 짝 (c1, •.. ' %)만 나타나며 c(m1, .. • ,m 김 = 士 1 이다. 그러므로 n 개 의 정수 西 = m1(1r), • • • , mn = mn(1r), m1 > · · · > ffin이 존재하여 t7r = c( 미 Xm1, ... ,마’ c( 이 = 士l. (11.2.11) 7r E G 가 변함에 따라 모든 (m1,··· ,mn) E zn, m1 > ··· > m 거 (1 1. 2.11) 에서 나타난다는 사실과 c(1r) = 1 임을 보이면 된다. (qi,··· ,qn) E zn, q1 > ··· > q n 이 (1 1. 2.11) 에서 나타나지 않는다고 가정하자. 아래의 함수 eD := 戈q 1, ••• ,qn /A

은 치환군 Sn 의 작용에 불변이고 보조정리 11.2 . 1 에 의하여 G' 상의 불변함수 0 의 D' 상에 제한한 함수이다. 그러면 명제 11.2 . 2 에 의하 여 0 E L2(G) 이고 (0, 0rr )G = (n!)-1(Xq 1, .. • , q 교 Xm1,… ,m, . ) = 0. [1r] E Q는 임의이므로 집합 {e 나 [1r] E Q}가 £2(G) i nv 의 완전직교 기저라는 사실에 모순이 된다. 여기서 L2(G)in v := { f E L2 ( G) j f 는 불변함수 }. 끝으로 c:(1 r) = 1 임을 증명하자 . zn 을 사전식으로 순서를 주자 . G 의 기약표현 7r 에 대하여 (8rr)D = CXr1,· •,T n + L d(s1, • • • , sn) Xs,,-· · ,S n (11 .2. 12) (si) < (Ti) 으로 쓸 수 있댜 c 와 d(s1,·· · ,Sn) 은 각각 (e 니 D 안에서의 D 의 지표 Xr1.- · • ,Tn 과 Xs1, ·•, sn 의 중복수이다 . 이제 A = Xn-l,n - 2, .. . ,0 = Xn-l,n -2 ,-·, ,0 + L d'(s1 , ' ' ' , Sn ) Xs 1, ·• ,Sn (s;)<(n-1,·· , 0) 임을 유의하라. 여기서 d'(s1,··· ,Sn) 은 정수이다. 그러므로 ~71 = (87r)D • 6. = CXr1+n-l,r2 표 -2,··•,r n + (ai) < (ri+드 n+ l, •• • , rn) e(s1, • • • , Sn) X 야 ... ,Bn

이다. 1 r = c(7r) 자西 , ... ,m,., m1 > • • • > mn 으로부터 c = c(1r) = 1, m1 = r1 + n -I , m2 = r2 + n -2 , • • • , mn = Tn 임을알수있댜그리고 m 츠乃츠 ••• 츠 Tn 임을유의하라. • 정 의 11.2.4 G 의 기 약표현 7r 에 대 하여 (8 김 D 안에 나타나는 D 의 지 표들을 군의 무게 (weig h t) 라고 한다. 정리 11 .2. 5 r1,··· ,Tn 이 정수이고 m 츠 T2 츠 ••• 츠 Tn 이라고 하 자. 그러면, Xr1 , … ,rn 을 최고 무게로 갖는 G := U(n) 의 기약표현 T 가 유일하게 존재하며 이 무게의 중복수는 1 이다. 이 표현 군의 지표는 e 叫 ··• ,m, ,이댜 단, m1 = r1 + n -1 , m2 = r2 + n 一 2, • • • , ffin = Tn, 그러므로 임의의 G의 기약표현은 이와 같은 방식으로 얻어진다. 중명 정 리 11.2.3 의 증명 과 정 의 11.2 .4로부터 얻 어 진다. • 지표가 8m1, …,마인 G의 기약표현의 동치류를 W 마 .. 짜 (m1>m2>···>mn) (11 .2. 13) 으로 다표시 :=하 u자.( D 상불에 -미t s분 읊작 )용 =소 g ( 틀 -這) (11 .2. 14)

을 정의한댜 여기서, tr := e i O 『이다 다은 치환군 Sn 의 작용에 대하 여 왜대칭이다. 口 n 을 아래의 양변 L sgn ( cr) X~i. -·•,mn = 6. (8 다 · • , m,.)D o· 에 적용하면 □ nX 西, … ,m,, = II (mr - ms) • x~I, ' ,m ., (11.2.15) 1$r

을 얻는댜 식 (11.2 . 19) 는 (11.2.17), (1 1. 2.18) 과 u(l) = d(wm1,. .. , 따) = Wm1 , … , 마의 차원이라는 사실로부터 쉽게 얻어진다. F1G( t상) 의:= 연(-1속r함(n수-l )ff2 에( t 1 대 · 하· · 여tn ) D-(n 상-~에)b :정.(t)의 L되는f ( x함tx수 -1 F) fd x를 (11 .2. 20) G 로 정의한다(단, t E D). D 상의 함수 Ff 를 f의 궤적적분 (orb it al i n t e g ral) 이라M고1( t한) 다:=. L그리f (고 xt x - 1) dx, t E D (11 .2. 21) G 로 정의한댜 M1( t)롤 t의 공액류상에서의 f의 평균 (avera g e) 이라고 한댜 Ff 와 Mf 는 D 상의 연속함수이댜 f E cr(G)(O $ r $ oo) 이면 Ff 와 MI 는 cr(D) 의 원이댜 아래의 대응 f 1------t 다 f E C00(G) 는 C00(G) 에서 C00(D) 상으로의 선형사상이댜 F1(t) = (-1r(n-l)l2(t1 · · · tn r(n-l) b:.(t) M1(t) (11 .2. 22) 임을유의하라. 정 리 11.2.7 (1) F1 는 왜 대 칭 이 다. 다시 말하면 F1(tu ) = sgn ( u) • F1(t) , u E Sn, t E D. (2) e정 타수 · 'm따1 (, f•) • :•= , mLn(e단m ,l , m군1 >) .. .f >(x )m dnx) 과= 柚f ' .E,( Cm10,0 •( •G •) 따 에) 대 하여 G 이다 여기서, f는 Ff 의 Fourie r 변환이댜

(3) ( □ 따 )(1) = (-l)n(n -I)/2 • n! ITr .. ·>m ,, d(w 다 · ·, mn) e 마 .. ,m. . U), f E C00(G). 여기서, Wm,,. . . ' 따온 이의 지표가 e 西 , ... , m,,인 G의 기약표현의 동 치류이고 d(wm1, ... , m,김)은 표현 Wmi , .. • ,m n 의 차원이다. (1 1. 2 . 13) 을 참조 하라 중명 (1) u E Sn 에 대하여 D 상에서의 6 의 작용과 같은 작용을 갖는 치환행렬(p ermu t a ti on matr i x ) a E U(n) 이 존재한댜 실제로 a 는 (x1, ••• , Xn) I--+ (Xo -(1)' •• • , X% ) )으로 주어지는 선형사상이다 그러면 M1(t(T ) == 1/ ff((xx ttux x- 1-1) )d xdx = = M 11(tf ) (x o- to--1 x-1) dx G G 이기 때문에 Mf (t)는 대칭함수이다 그리고 (t1 • • • t n) - (n-l) 은 대칭 함수이고 A 는 왜대칭함수이므로 f의 궤적적분 Ff (t)는 왜대칭함수 이댜 (2) 명제 1 1. 2 . 2 와 Wey l 지표공식 ((11 .2. 6) 참조)에 의하여 = 8갑m 1,J ..D. , m A,, ((ft )) K (t) e 西, ,m ,,(t) ( la f(x tx - 1) dx ) dt = : jD Ff ( t) ( Eo· sg n( 6)~1, . .. ,m ,,(t) ) dt

여기서, E(t) = (— 1r(n-l)/2 (ti ... tn) -(n-l) 6(t) 의 사실을 사용하였댜 그러므로 (1) 에 의하여 부, ,m, I( f ) = 갑 : sg n (6) JIvD Ff • X 십 . ,mn dt == I교1v F~1( t) s gXmn 1( u,…) ,mJ tF) rd1t =• XFm11,( m... ,1m,n •d •t • , mn)- D (3) u(t) := (크 )n(n-1)/2 (ti ... tn) -(n- 1) 島(t) 라 놓자. 그러면 F1 =U. 스이댜 그러므로 (D F1)(l) =( 다 (6 · u) ) (1) = n! II(s -r )(-1r(n-l)/2 M1(l) (·.-( 1 1. 2.18) 에 의하여) r

이 결과와 (3) 에 의하여 (-1r(n 크 )/2 -n! Il(s -r ) · f(l ) r… > mT T… > mm 로 주어지는 Plancherel 공식을 얻는다. 11 .3 SL(2, C) 이 절에서는 G := S£(2,C) 의 기약인 유니터리 표현과 이의 Planch-erel 공식 에 관하여 논하겠다.

먼저, 정수 k E Z 와 실수 V E IR 에 대하여 G의 표현 p k , i v 를 pk ,ie ( : : ) f(z ) =| _ bz + d|-2-2V ( | 二 b;z++ddI )-k xf (~) (11.3.1) 와 같이 정의한댜 단, ( : ! ) E SL(2,C ), z E IC 이고 /(z) E £2(C) 이댜 그러면, 임의의 정수 k 와 실수 v 에 대하여 p k,” 는 G 의 유니터리 기약표현임을 보일 수 있을 뿐만 아니라 p k, i v 와 p -k,- i v 는 서로 유니터리 동치관계에 있음을 알 수 있다. G 의 유니터리 기약표 현 p k , i v 를 주조성렬 또는 유니터리 주조성렬이라고 한다. 다음은 정 수 k E Z 와 복소수 w = u + iv E C 에 대 하여 G 의 표현 P 도를 pk ,w ( g) f(z ) :=(-bz + dt 2- w C二 b;z++ddI )-k xf (~) (11.3.2) 로 정의한댜 여기서 , F ( : : ) E G, zEC 이고f EL2(C, (1+ 同 )Rewdxd y)이댜 임의의 w E C 에 대하여 씹따는 G 의 표현이지만, 일반적으로 G 의 유니터리 표현이 아니다 . 그러나, w = iv (v E JR)이 순허수이면 p k,w 는 유니터리 표현이다. k = O 이고 0 < w < 2 인 실수 w 인 특수한 경우에 관하여 논하겠 댜 Hi lbe rt 공간 L2(C, (1 + |zl2)wdx d y)상에 내 적 < f, g >:= 12 ~凰 dz d(, f, g E L2(C, (1 + lzl2)w dx dy )

룰 정의한다. 이때, G 의 표현 cw := pO ,w ' 0 < W < 2 (11.3.3) 를 G 의 보계 열 (comp le menta ry serie s ) 이 라고 한댜 G 의 유니터리 쌍대 G 는 아래의 (1), (2), (3) 으로 이루어져 있다. (1) 자명한 표현 (2) 유니 터 리 주조성 렬 pk, iv (3) 보계열 꾼 (단, 0 < X < 2). 단, (2) 의 경우 pk ,i v ~ p갑, ―” 이다. G의 이산표현은 존재하지 않 음을관찰하라. K : = SU(2), A : = {dia g (e u, e 기 I u E 町, N ' ~{ ( ~ X : iy ) Ix , y E 타 이 라고 하자. K, A, N 상에 각각 Haar 측도 dk (단, JK dx = l), du, dn = dxd y를 취한댜 그리고, G = KNA 는 lwasawa 분해이 며 G 상에 Haar 측도 dg = dkdxdy d u (11 .3. 4 ) 를취하자. T :={ t = a.me := ( ••; ,-~-iB ) I u, 9 E Ill. } (11 .3. 5) 은 G 의 Carta n 부분군이 고 T 상에 Haar 측도 dt = 一217 f dud0 (11.3.6)

룰취한댜 g를 G 의 Lie 대 수라고 하면 gc 브 s[(2, C) ® s[(2, C) 이므로 뿌리시스템 6 := 6(gC : t C) 는 4 개의 뿌리를 갖고 있다. 두 개의 양의 뿌리로서 ( u : i0 u ~ i0 ) c= 2(u + i0) , <> ( u : iO u ~ iO ) ,~ 2(u -iO) 를 취 할 수 있다. (11 .3 .5) 상에 서 의 Wey l 분모 DT( t)는 Dr(t) = ( eu+i0 - e-(u+i0 ) ) ( eu- i0 - e-u+i0 ) = 2(cosh 2u —co s 20) 로 주어지고 이의 특이점은 士 E = 士 1 이다. 여기서, E2 = 1 은 2 x 2 단위행렬이다. f E C'.훈 (G) 에 대하여 이의 궤적적분 Ff 는 Ff (t) = DT(t) l,T f(gtg- 1) d(G/T), t E T' (11 .3. 7) G/T 으로주어진댜그리고 F『 (t) = e2u lxKxNN f(k tn k -1) dk dn (11.3.8) 의 형태로 쓸 수 있음을 쉽게 보일 수 있다. M :={ ( e: :t0 ) I O E R } (11 .3. 9)

이라 놓자. M 의 표현 아(단, n 은 정수)을 Un ( e~' e~i9 ) = e;nO , O E R (11.3.10) 로 정의한다 ill (ll E R) 는 A 의 Lie 대수상에서 ill ( ; 나=i uu, UER (단, i= R) (11.3 . 11) 로 정의되는 선형함수이다 . 유도표현 U(MAN,un,iv ) := Ind

으로 정의한다. 마찬가지로 8( 百)를 정의할 수 있다. ReHa = ( ; \ ) , ImH. ~ ( ~i ~i ) (11 .3. 15) 임을 쉽게 보일 수 있다. 그러므로, 간단한 계산에 의하여 8(a)h(aumo) = —88u h(au mo) -'I ., _880h (aumo), 8(a)h(aumo) = 玩8 h(aumo) + i F8( jh( aumo) 임을 보일 수 있다. 그래서 8( 죠 )8(a)h(aumo) = (:; + 昌) h(aumo). (11 .3. 1 6 ) 또,우리는 8(a)8(a)Ff (au mo) (11 .3. 17) = _ n 드oo 됴1 f_O°O° ec 'w(f) (군 + 간) e-i(v u+ne) dv 의 등식을 얻을 수 있다. 반면에 임의의 함수 J E C훈 (G) 에 대하여 (21r)3 f(l ) = 1 두00 100 eCn,w(f) (n2 군) dv (11 .3. 18) n=-oo _00 로 주어지는 Plancherel 공식을 얻는다. (1 1. 3.18) 의 공식은 (11.3.16) 과 (1 1. 3.17) 로부터 유도된다. (1 1. 3.18) 로부터 Plancherel 측도 dµ 는 dµ = c • (n2 + v2) dv, c > O (11 .3. 19) 의 형태이다.

11 .4 Heis e nberg 군 H胃 ) 자연수g와 h 를 고정시키자 .F 가체이고 k, l 가자연수일 때 F(k,1) 은 F 안에서 원소를 갖는 k X l 행렬들의 벡터공간을 나타내고 있다. 지 금부터 아래 의 Heis e nberg 군 Hi f'h) : = { (>., µ, -) I >., µ E ]R( h,g ) ' ' E ]R( h,h ) ' ' + µ t ), 는 대 칭 행 렬 } 을 공부하자. 단, H ii ' h) 의 곱은 (.\, µ, K) o (-\1, µ1, 저) := (>. + >.'' µ + µ'' K, + '' + >. tµ' - µ t>.') 으로 주어진댜 이 Heis e nberg 군 H J!' h) 는 아래와 같이 심플렉틱 군 Sp (g +h, 惡)에 매장된다 E9 O O tµ 떄 , h) E (>., µ, K-) 一 0A E0h Eµ9 _Kt, A E Sp (g + h, 惡). 0 0 0 Eh 이제부터 편의상 G := Hi { 'h) 라 하자. 이 Heis e nberg 군은 2-ste p 멱영 Lie 군이며 Sie g e l 모듈라이 공간의 토러스 긴밀화에 대한 연 구에 중요하댜 실제로 G 는 S p(g +h, JR)의 포물적 부분군의 멱단근 기 (unipo te n t rad ica l) 이 댜 원 (>.,µ,K-) E G 의 역원은 (>., µ, K,)크 = (->., -µ, —K-+ >. tµ - µ t>.) 로 주어짐을 쉽게 알 수 있다. 그리고 [A, µ, K-] := (0, µ, K-) o (A, 0, 0) = (A, µ, K-- µ tA ) (11 .4. 1)

라 두자. 그러면 G 를 아래의 곱 [>-, µ, l'i,l * [>-', µ’, 서 := [.>. + X, µ + µ', l'i, + l'i,' + .x tµ' + µn>.] (11 .4. 2) 을 갖는 군이라고 간주할 수 있댜 이 곱에 대하여 원 [>.,µ澤] E G 의 역원은 [>., µ, K,i-1 = [->., —µ, -K, + ). tµ + µ t>.] 이댜 G 의 부분군 I( :={ [O, µ, K] E G I µ E R(h,g) ' K, = tK, E R(h,h) } (11 .4. 3) 는 정 규 아벨 부분군이 다. K 의 Pontr a ja g i n 쌍대 K 는 아벨군 惡 (h, g) X S y mm(h,IR) 과 동형임을 쉽게 알 수 있다. 여기서, S ymm (h,IR) 은 hxh 실대칭행렬들로 이루어진 아벨군이다. 이 동형은 < a, a, >:= e2rr i u( 맡 µ+k t.) (11.4 .4) (단, a = [O,µ,K, ] E K, a = (µ,k) E k) 의 관계에 의해 주어진다 S :={ [>., 0, O] E G I .X E 惡 (h , g) }켈 (h , g) (11 .4. 5) 라고두면 S 는 K 상에서 a>.([O,µ,Kl ) := [O,µ,'+ .Xtµ+µt>.], [>.,0,O] E S (11.4 .6 ) 와 같이 작용한다. 반면에 S 는 K 상에서 야 (a) := (P, + 2P. ,>., P.,), [>., o, O] E s, a = (µ, P.,) E k (11 .4. 7) 와 같이 작용한다. 그러므로 우리는 < a,x ( a), a >=< a, a1 (a) >, a E K, a E k (11.4.8)

의 관계를 얻는다. 우리는 K 안에서 2 종류의 S 제적을 얻는다 . 첫째는 (O, F,, ) E k 의 S제 적 O 志 야 :={ (2R >., R) E K I >. E R(h,g ) }브 恥 (h , g) (11 .4. 9 ) 이다. 둘째는 (y,O ) E k 의 S- 궤적 아는 아 := { (y,0 ) } (11.4.1 0 ) 이댜 그러므로 집합으로서 K 는 K = ( u; .,E Sy mm( h,R ) °k ) u ( u9ER (hs) 09 ) (11.4 .1 1 ) S 의 (0, R) E k 에 서 의 안정 화 부분군 (s t ab ii zer) Sr . 는 Si. = {O} (1.4. 12) 이고 S 의 (y,O ) E k 에서의 안정화 부분군 Sy 는 Sy ={ [A, 0, O] I A E ]R( h,g ) }= S ~ ]R( h,g ) (11 .4. 13) 이댜 동질공간 X := K\G 는 대응 Kg = K o (A, 0, 0) 1--+ A, g = (A, µ, K-) E G 에 의하여 ]R (h, g)와 미분동형이다. G 는 X 상에서 (Kg ) · go := K(A + Ao, 0, 0) (11 .4. 14) 와 같이 작용한다. 단, g = (-\, µ, K) E G이 고 g0 = (-Xo , µo, Ko) E G.

g = (-\,µ,K) E G 이면 g의 Mackey 분해 9 = kg O S g는 kg = (0, µ, K + µ t,\), Sg = (-\, 0, 0) (11 .4 .15) 로 주어진다 그러므로 9o = (-\o,µo,Ko) E G 이면 s9 o 9o = (,\, 0, 0) o (,\o, µo, K-o ) = (,\ + Ao, µo, K-o + ,\ tµ 0) (11 .4 .1 6 ) 이므로 ks9o g。 = (0, µo, -o + µo tA o + A tµ o + µo tA ). (11 .4 .17) 실 대 칭 행 렬 c = tc E 惡 (h ,h ) (단, C -/= 0) 에 대 하여 K 의 유니 터 리 지 표 C7 c 는 야 ((O, µ, K.)) := e21r i Tr( 야) I, (0, µ澤) E K (11 .4 .1 8 ) 로 정의한다. 여기서, I 는 항등사상이다. 그러면, 6c 의 유도표현 U(r:,c ) := lndi 야 (11.4 .1 9) 는 Hi lbe rt 공간 1-lc := L2(X) ~ L2(JR ( h,g ) , ,if.)에서 실현화된다. 9o = (Ao, µo , K-o ) E G, x = Kg E X 이고 g = (A,µ,K .) E G 이면 (U90(ac)f) (x ) = 야 (ks9o g 0(/(x g o)), f E 1-lc (11 .4. 2 0 ) 로 주어 진댜 (1 1. 4.16) 으로부터 ( %(ac )f ) (x) = e21riT r(c(Ko+µot > .0+2>.tµ o)) f(A + Ao) (11.4 .2 1) 가 된댜 여기서, x = K g와 xg o = K gg o 를 각각 A 와 A+Ao 와 동일하 게 간주하였댜 유도표현 U( 야)를 K 의 유니터리 지표 0- c 에 관련되 어 있는 G 의 Schrodin g er 표현 이 라고 한댜

dg 와 d g를 각각 G 와 X = K\G 상의 G- 불변측도라고 하자. 아래의 조건 (1), (2), (3) 을 만족하는 함수 ¢ : G -+ C 들로 이루어진 Hi lbe rt 공간을 1{, C 라고( ¢표따시)하 :자= .J H衛 i( lbge) r¢t; {공g간j d g 1{,, C 상衡의, ¢내2 적꿉은 G 로주어진다. (c ( f))(g) := e2rri T r( c( 어+µ'>.)) f(,\), f E 11.c (11 .4. 22) 와 같이 정 의 되 는 사상 4>c : 11,c _ ➔ 11, c 는 Hilb ert 공간 사이 의 동형 사상이다. 단, g = (>.,µ澤) E G. 양상에서의 G 의 Schrodin g e r 표현 U( 아)는 (Uga (uc)

-o+>.'µo->.a 'µ)) ¢((>.0, 0, 0) o g) (11 .4. 23) 로 주어진다. 여기서, 9o = (>.o,µo,r;, o ), g = (>.,µ,r;,) E G 이고 ¢ E 11, c 이다. 정리 11.4.1 C 룰 hxh 반정수인 양부호 대칭행렬이라고 하자. 그 러면, G 의 Schrod inge r 표현 U(uc) 는 유니터리 기약표현이다 위의 증명은 [32] 의 정리 3 에 있다. g를 G 의 Lie 대수라 하고 g*룰 이의 쌍대공간이라고 하자. 실제로, g는 X(a,{3 ,,) := 0ao0o,Og00o 0 o냉Tt ' a, /3 E R(h,g) ' 'Y = t, E R(h,h) 켜

로 주어지는 형태의 (g+ h) x (°g+ h) 행렬들로 이루어져 있다. 간단

한 계산에 의하여 [X(a, /3, 1) , X(o, c:, ~)] = X(O, 0, a tc: + c: ta -/ 3 냉 —o t /3) 이댜g*는 oota o0b00 oooo F(a, b, c) := tb 0 , a, b E JR{ h,g) , c = tc E JR{ h,h) c 갤

의 형태로 주어지는 (g+ h) X (g+ h) 행렬들로 이루어진 벡터공간과 동형이댜 그리고 < F(a, b, c), X(a, (3, ,) >:= 2 Trea a + tb (3 ) + Tr (c:y) (11 .4. 24) 임을 유의하라. G 의 수반표현 AdG 는 Ada(g) X := gX g -1 , g E G, X E g 로 주어진댜 g E G 와 F E g*에 대하여 g F9 크는 F(a,b,c) 의 형태로 주어지지 않는다. 그래서 행렬 g F g -1 의 00*000**00 *00 *0 0 -part 를 (g F g기루 표시한다 그러면 G 의 쌍대수반표현 Ade : G ―구 GL( g*)는 Adc; (g) F = (gF g - 1)., g E G, F E g* 으로 주어진다. 보다 구체적으로 Adc; (g) F(a, b, c) = F(a+cµ, b-c>., c), g = (>., µ, K) E G (11 .4. 25)

이댜 그러므로 F(a,b,O) E g*에서의 G 의 쌍대수반궤적 Oa , b 는 Da,b = Ad*( G )F(a, b, 0) = {F(a, b, O)} (11 .4. 26) 이고 F(O,O,c) E g* (단, C-/= 0) 에서의 G의 쌍대수반궤적 요 는 요 =A d 泣 (G)F(O, O, c) ={ F(a, b, c) I a, b E 惡 (h , g ) } (11 .4. 27) 이댜 그러므로 g* 안에서의 G의 쌍대수반궤적은 (I) 평면 c = O 안에 위치하고 있는 점들 { na,b I a,b E ]R( h ,g ) } (II) 등질평면 C = 0 과 평행인 affine 평면 들 { Q니 c = tC E ]R( h,h) , C -/= Q } 의 두 부류로 나누어진다 다시 말하면 , 쌍대수반공간 O(G) 는 (1) C- 축, C -/= 0, C = 1c E 恥 (h,h); (2) (a, b)- 평 면 9:f ]R( h,g) X ]R( h,g ) 에 의하여 매개변수화된다. na , b 를 G 의 퇴화궤적이라 부르고 Q C 를 G 의 비퇴화궤적이라고 한다 . G 가 연결이고 단순연결인 멱영 Lie 군이므로 Ki ri l lov 대응에 의하 여 G의 유니터리 쌍대 G 는 G =( 惡 (h, g) x ]R( h,g ) ) II {z E JR{ h,h ) Iz = tz , z # 0 } (11 .4. 28) 로 주어진다. 여기서 11 는 dis joi n t uni on 을 나타낸다. 이제, G 의 쌍대수반궤적에 대응되는 G 의 유니터리 기약표현에 관 하여 서술하겠다. 먼저 원 F E g*롤 고정하고 g상에 정의되는 왜대칭 R 쌍선형 형 식 Bp ( X, Y) :=< F, [X, Y] >=< ad; (Y)F, X > (11.4.29)

(단, X, Y E g)를 정의한다 여기서 ad; : g - End( g*)는 Ad 청의 미 분사상이다 구체적으로 설명하면 F = F(a,b,c), X = X(a,(3 ,,), Y = X(8,c,~) 이면 BF(X, Y) = Tr { c(atc + et a - /3t8 -8t / 3) } (11 .4. 30) 이댜 우선 F := F(a,b,O) 인 경우를 다루자. (1 1. 4.26) 에 의하여 F 에서의 G 의 쌍대수반궤적 따 = na,b = {F(a,b,O)} 는 한 점으로 이루어져 있댜 (11 .4 .30) 에 의하여 임의의 X,Y E g에 대하여 BF(X,Y) = 0 이 댜 그러므로 g는 F 에 대하여 g의 유일한 극화이다. Ki rillov 대응에 의하여 쌍대수반궤적 na , b 에 대응되는 G의 유니터리 기약표현 7ra , b 는 따 , b(ex p X(a, {3, ,)) = e2r. i< F , X (cr,/3 , t)> = e4r. i Tr('acr+1b/3 ) (ll. 4_ 31) 로 주어진댜 여기서, exp : g --+ G 는 지수사상이다 . 다음은 F = F(O,0,c), 0 -f. c = tc E JR (h,h) 인 경우를 다루어보자. (11.4.26) 에 의하여 따 =n c ={ F(a,b,c) I a,b E 惡 (h , g) } 이댜 (11 .4 .30) 에 의하여 ~ :={ X(0,/3 ,,) I /3 E ]R( h,g ) l 'Y = t, E 惡 (h,h) } (11.4.32) 는 F 에 대하여 g의 극화 부분대수이다. H 룰 부분대수 b 에 대응되는 단순연결인 부분군이라 하자. 그리고 Xe.~ : H _--t C f를 Xc,~ (ex p X(0, (3, ,)) := e2rri< F,X(O, [J,- y)> = e2rr i Tr( 이 (11 .4. 33) 로 정의되는 H 의 유니터리 지표라고 하자. Kir i l lov 대응에 의하여 쌍대수반궤 적 0F = 0c 에 대응되는 G의 유니 터 리 기 약표현 1Tc,h 는 -rrc, ~ = Indi Xe,~ (11.4.34)

로 주어진다. 정리 9.3.8 로부터 유도표현 7rc,h 는 .F 에 대한 g의 극화 부분대수의 선택에 무관함을 알 수 있다. 그러므로 7rc , ~ 의 동치류를 'lr c 로 표시하기로 하자. 실제로 'lr c 는 표현공간 £2(JR ( h,g) , d~) 상에서 体(g)f) (e) = e2 tri Tr(c( K- +µ1>.+2 한씨)J (e + >-) (11.4 .3 5) 로 주어진댜 여기서, g = (>.,µ澤) E G, f E £2( 惡 (h, g), d() 이고 dX, F' E fl* (11 .4. 37) g 으로 정 의 한다. 여 기 서 , dX 는 g상의 Lebesq u e 측도이 다. K i r ill ov 의 업 적 에 의 하여 쌍대수반궤 적 f2c ~ JR( h,g ) X 惡 (h, g)상에 조건 (11 .4 .37) 을 만족T 국할(< 뿐/>만) = 아 1니N.C 라CF 9G(< 의/> o작 e용xp 예) ( F불') 변d{3인 ( F 측'), 도 3E가 C존~재(G 한) 댜( 11.4 .3 8)

이댜 여기서 ¢ E C검홍(¢ {)G()! 이) 고:= fL E ¢L2( x() 惡(1 (rhc , g()x' )df() ) d이x 면 (11.4.39) G 임 을 상기 하라. z 를 G 의 중심 이 라 하고 S(G/Z) 를 Schwartz 공간 이 라고 하자. TC(L2( 民 (h , g)花))를 L2( JR (h , g)」{)에서 자신으로의 트 레이스류이면서 연속 C- 선형사상들로 이루어진 복소공간이라 하고 HS(L2( 民 (h , g), de)) 를 E(惡 (h , g)간足)상에 정의된 Hi lbe rt -S ch midt 작용 소들로 이 루어 진 복소 Hilb ert 공간이 라 하자. 따라서 Plancherel 정 리에 의하여 S(G/Z) E cp t----t 검(cp) E TC(L2(JR ( h,g) , de)) 은

겁 L2(G/Z, Xe) ― ➔ HS(L2( 惡 (h , g), d{)) (11 .4. 4 0 ) 는로 주유어도지표현는 유In니dg터 X c리 의 등표장현사공상간으이로 다 .확 장된다. 여기서, L2(G/Z, Xe) (1 1. 4.3) 에서 정의된 부분군 K 의 Lie 대수 t는 더 F(O, b, c) I b E JR{ h,g ) , c = tc E JR{ h,h) } (11 .4. 4 1 ) 이 다. AdK : K 一 GL( t*)를 K 의 쌍대수반표현이 라 하자. F(O, b, c) E t*에서의 K 의 쌍대수반궤적 Wb,c 는 Wb,c = Ad K (K) F(O, b, c) = {F(O, b, c)} (11.4 .42 ) 로 주어진댜 [t,t] = 0 이기 때문에 F = F(O,b,c) 에 대하여 t상에 정 의되는 왜대칭 R- 쌍선형형식 BF 는 t X t상에서 균일하게 소멸한다. 그러므로 t는 F에 대하여 t의 유일한 극화이다. Kir i ll ov 대응에 의하 여 쌍대수반궤적 Wb,c 에 대응되는 K 의 유니터리 기약표현 Xb , c 는 Xb,c((O,µ,K -)) = e2m Tr(21bµ+c1> ), (O,µ,K- ) E K (11 .4. 4 3 )

로주어진다. 0 # C = tc E JR (h , g)에 대하여 7f' c 를 (11 .4 .34) 에 의하여 주어지는 Schrodin g er 표현이라 하자. 실제로 7f' c 는 G 의 쌍대수반궤적 Oc := Ada(G)F(O, O, c) ={ F(a, b, c ) I a, b E JR( h, g ) } 에 대응되는 G의 유니터리 기약표현이다 . p : g* 一 ➔ e * 를 p( F(a, b, c)) = F(O, b, c), F(a, b, c) E g* 으로 정의되는 투사사상이라 하자. 그러면 p(O c) = { F(O, b, c) I b E 惡 ( h , g) } = UbEJ R( l,.9 ) W b,c 임은 자명하댜 Ki ri ll ov 정리 ([Kl] 또는 [K2), 249 쪽, 정리 1 참조)에 의하여 7[' C 를 K상에 제한한 표현 7f' clK 는 K 의 지표 Xb,c (b E JR ( h , g))의 직적분 (d ir ec t int e gr al) 이란 사실을 알 수 있다 . 역으로 Xb,c 를 K 의 쌍 대 수반궤 적 Wb , c 에 대 응되 는 K 의 원이 라고 하면 유도표현 Ind~ Xb , c 는 다름 아닌 Schrod ing er 표현 7[' C 이다. G의 쌍대수반궤적 Q C 는 0c n p-1 (wb,c ) # 0 인 성질을 만족하는 유일한 쌍대수반궤적이다.

참고문헌 [ 1 ] V. Bargm an, Irreducib l e unit ar y rep re senta t i on s of the Lorentz gro up , Ann. Math . 48 (1947), 568-640. [ 2 ] A. BeH ins on and J. Bernste i n , Locahiz a ti on de g-m odules, C. R. Acad. Sc i. Paris, Ser. I. 1292 (1981), 15-18. [ 3 ] A. Borel and N. Wallach, Conti nu ous Cohomolog y. Disc rete Subg ro us and Rep re senta t i on s of Reducti ve Group s , Prin c eto n Univ e rsit y Press, Prin c eto n , 1980. [ 4 ] I. M. Gelfa n d, M. I. Graves and I. I. Pia t e t s k i -S hap iro , Rep re - senta t i on Theory and Auto m orph ic F uncti on s, Academi c Press, 1990. [ 5 ] Haris h -Chandra, Collecte d Pape rs, I-IV, Sp ri n g er -Verlag, 1984. [ 6 ] H. Hecht, D. Mi licic, W. Schm id and J. Wolf , Loca liza ti on and sta n dard modules for real sem isim p le Lie grou p s I: the duality the orm, Invent. Math . 90 (1987), 297-332. [ 7 ] H. Hecht and W. Sch mid, A pro of of Blatt er 's conje c tu r e, Invent. Math . 31 (1975), 129-154. [ 8 ] _, Characte r s, asym ptot i cs, and n-homolog y of Haris h - Chandra modules, Acta Math . 151 (1983), 49-151 .

[ 9 ] _, On the asym p toi c s of Haris h -Chandra modules, J. Rein e Ang ew . Math . 343 {1983), 169-183. [ 10 ] S. Helga s on, Di ffer enti al Geometr y , Lie Group s and Sy m met- ric Sp a ces, Acadm ic Press, New York, 1978. [ 11 ] R. Howe and E. C. Tan, Non-Abeli an Harmonic Analys i s , Sp r in g er -Verlag, 1992. [ 12 ] A. W. Knapp , Rep r esenta t i on Theory of Sem isim p le Group s , Prin c eto n Un ive rsit y Press, 1986. [ 13 ] A. A. Ki rillov , Un itar y Rep re senta t i on s of Ni lpo te n t Lie Group s , Russia n Math . Survey s 17 (1962), 53-104. [ 14 ] _, Elements of th e Theory of Rep r esenta ti on s, Sp r in g er -Verlag, 1976. [ 15 ] _, The Orbit Meth od, I: Geometr i c Qu anti za ti on , Con- tem p o rary Math . 145 (1993), 1-32. [ 16 ] _, The characte r s of unitar y rep r esenta t i on s of Lie grou p s , Func. Anal. and its A p pl. 2 (1968), 133-146. [ 17 ] G. W . Mackey, Induced Rep r esenta t i on s of Locally Comp a ct Group s I, Ann. Math . 55 (1952), 101-139. [ 18 ] _, Un itary Group Rep re senta t i on s in Phys ic s , Prob - abil ity and Number Theory , Benja m in/ Cu mming s Publi sh in g Co., Rea ding , MA., 1978.

[ 19 ] T. Mats u ki, T he orbit s o f aff ine sym metr i c spa ces under the acti on of mi ni m al pa rabolic subg rou p s, J. Math . Soc. Ja p a n 31 (1979), 332-357. [ 20 ] F. Pete r and H. Wey l, Die Vollsta n dig k eit der prim i tive n Darste l lung e n ein e r ge schlossen kon tinu ie l i ch en Grup pe, Math . Ann. 97 (1927), 737-755. [ 21 ] W . Schmi d, On a conje c tu re of Lang la nds, Ann. Math . 93 (1971), 1-42. [ 22 ] _, Some pro p e rti es of squ are- int e g r ab le rep re sentx tion s of sem isim p le Lie gro up s, Ann. Math . 102 (1975), 535-564. [ 23 ] _, On the characte r s of disc rete serie s : the Herm itian sym metr i c case, Invent. Math . 30 (1975), 47-144. [ 24 ] _, L2-cohomolog y and the disc rete seri es, Ann. Math . 103 (1976), 375-394. [ 25 ] _, Constr u cti on and classif ica ti on of irr educi bl e Haris h - Chandra modules, Proceedin g s of Harmon ic A nalys i s on Reduc- tive Group s, Birk hauser, Prog res s in Math . 101 (1991), 235-275. [ 26 ] _, Geometr i c Mehth o s in Rep re senta ti on Thory , Jb er. d. Mt . Math -Verein , Ju bil au msta g ung (1992), 62-76. [ 27 ] W. Schm id and J. Wolf , Geometb ric qu anti za ti on and de- riv e d func to r modules for semi si m p le Lie grou p s, J. Functi on al Analys i s 20 (1990), 48-112.

[ 28 ] V. S. Varadaraja n , An Intr o ducti on to Harmonic Analys is on Sem isim p le Lie Group s, Cambri dg e Univ e rsit y Press, 1989. [ 29 ] D. A. Vog a n, Rep re senta t i on s of Real Reducti ve Lie Group s, Bi rkh auser, 1981 . [ 30 ] _, Unit ar y Rep re senta t i on s of Reduc itve Lie Group s , Annals of Math . Stu die s , Prin c eto n Univ e rsit y Press, 1987. [ 31 ] N. R. Wallach, Real Reducti ve Group s I, Bir h auser, 1988. [ 32 ] J.- H. Yang , Harmonic Analys is on the Qu oti en t Sp a ces of Heis e nberg Group s, Nago y a Math . J. 123 (1991), 103-117. [ 33 ] Alge braic Group s and Disc onti nu ous Subg rou p s, vol. 9, AMS, Proceedin g s of Sy mpo sia in Pure Math . , 1966. [ 34 ] Auto m orph ic for ms, rep re senta t i on s and L-fu n cti on s, vol. XXXIII, Proceedin g s of Sy m p o sia in Pure Math ., 1979. [ 35 ] Harmon ic A nalys i s on Reducti ve Group s, Proceedin g s of the Bowdoin Confe r ence, 1989, Bi rk hauser, 1991 .

인명찾아보기 Bargm a n , Valenti ne 5 Beil ins on, A. A. 9 Bernste i n , Jo sep h 9 Blatt ne r, Robert Ja mes 152 Borel, Armand 6, 15, 183, 194 Bott , Raoul 15, 183 Bruhat, Francois 83, 85 Carta n El ie 5, 31, 67, 68 Dy n k in, Evg en ii Boris o vic h 30 Fourie r , Je an-Bap tiste -Jo sep h 119 Frobeniu s , Ferdin a d Georg 5 Gelfa n d, Izrail Mois e evic h 5, 119 Godement, Rog er 5 Hari sh -Chandra 5, 6, 119 Iwasawa, Kenkic h i • 71, 74 Ja cobi, Carl Gusta v Ja cob 24 Ki lling , W ilhe lm Karl Jo sep h 25 Ki rillov , Alexander Alexandrovic h 6, 15 Kosta n t, B. 15 Kronecker, Leop o ld 37 Lang la nds, Robert Phelan 7, 13, 14, 15, 86, 109, 156 Lie , Mariu s Sop h us 5 Mackey, George W 血 elaw 5, 89, 93 Mats u k i, T. 11 Mautn e r, Frie d ric h Ign a z 5

Na im ark, Mark Aronovic h 119 Plancherel, Mi ch el 15, 111, 196 Poin c are, Henri 36 Pois s on, Sim eon Den is 24 Schmi d, W ilfried 6, 8, 10, 183 Seg al , Irvin g Ezra 5 Vog an , David A. 7 Weil, Andre 6, 15, 183, 194 Weyl , Hermann 5, 33, 60, 63, 77, 81 W itt, Ernst 36 Zuckerman, G. 13

사항·찾아보기 기 가해 적 (solvable) 24 가환급수 (commu t a t or serie s ) 24 격 자 (la tti ce) 112 공액공간 38 공 액 표 현 (conju g a te rep re senta ti on ) 38 구함수 (s p her ic al fun c tion ) 148 국소적 코호몰로지군 9 궤 적 적 분 (orb it al int e g r a l) 207 극대 가환부분공간 71 극대 토러 스 (m axi mal tor us) 48 극소 K 타입 157 근 기 (radic a l) 24 기 약(i rreduc i ble) 22 기약지표 45 기 지 표 (odd characte r ) 60 긴밀뿌리 150 C 단순 Lie 대수 (s i m p le Lie alge bra) 25 단순뿌 리 (sim p le root) 29 단순시스템 (s i m p le sys t e m ) 33 단항표현 (mono mi al rep r esenta t i on ) 90 대수적으로 정수이다 (al g ebr ai call y integ r al ) 49 대 역 적 지 표(g lobal characte r ) 135, 150 Dy nkin 다이어그램 30 三 Lang la nds 궤 적 13

Lang la nds 매 개 변수 (Lan g lands pa ramete r s) 110 Lang la nds 분류 7 Lang la nds 분류정 리 110, 156 Lang la nds 분해 86, 87 Lang la nds 상 110 Lie 대수 23, 24, 26 □ Mackey 비원시성 정리 94 Mackey 소군정 리 (Mackey Lit tle Group Theorem) 93 멱 영 대수(ni l p o t en t alge bra) 24 무게공간 (we ig h t spa ce) 49, 55 무 게 벡 터 (weig h t vecto r ) 55 무한소적 으로 동치 (infinites im ally equ iva lent) 103 l:::j 반경 사상 (con t ra gre di en t) 164 반단순 Lie 대 수 (se mi s i m p le Lie alge bra) 25 반직 적 (sem idi r ec t pr oduct) . 25 g를 포함하는 a- 끈 29 Beil ins on-Bernste i n 분류 7 Verma 모듈 54, 57 Vog an -Zuckerman 분류 7 보계 열 (comp lemen t ar y serie s ) 137, 212 Borel-Weil 정 리 183-194 보편포락대수(t he unive rsal envelop ing alge bra) 35 복소뿌리 158 Weyl 군 33, 77 Weyl 방 (We y l chamber) 77

Wey! 분모공식 63 Weyl 적 분공식 60, 87, 88 Wey l 지표공식 59, 60 Wey l 차원공식 64 Bruhat 분해 85 Blatt ne r 매개변수 152 비 원 시 성 정 리 (lmp r im i tivi t y Theorem) 89 비 퇴 화 (nonde g enera t e) 25 비퇴화궤적 222 뿌 리 부분공간 (roo t subsp a ce) 32 人 서 로 동치 (eq uiva lent) 22 수반표현 (ad j o i n t rep re senta t i on ) 27, 164 Schri:id in g e r 표현 219 Schur 의 보조정 리 40 COO- 벡터 102 실수뿌리 158 심플렉틱 다양체 168 심플렉틱 형식 168 쌍대성 정리 11 쌍대수반궤적사상 166 쌍대표현 (dual rep r esenta t i on ) 37 。 M 긴밀뿌리 159 M- 비긴밀뿌리 159 Ja cobi 항등식 24 오른쪽 정칙표현 (r ig h t reg ular rep re senta t i on ) 23

오른쪽 평행이동 26 완화초함수(t em p ered dist r i b u ti on ) 153 완화표현(t em p ered rep re senta t i on ) 149 왼 쪽 불 변 (left inv aria n t) 26 왼쪽 정 칙 표현 (le ft reg ula r rep r esenta t i on ) 23 왼쪽 평 행 이 동 (le ft tra nslati on ) 26 우지 표 (even characte r ) 60 위 상군(t o p olo gi cal gro up ) 21 유니 모듈러 (unimo dular) 22 유니 터 리 (unit ar y) 22 유니터리 쌍대 (u nit ar y dual) 97 유니터리 주조성렬 211 유도표현(in duced rep re senta t i on ) 89, 90 유한길 이 (finite leng th) 6 유함수 (class func ti on ) 45 이 데 알(i deal) 24 이 산표현(di scre t e serie s ) 135, 153 2 승가적 표현 (s q uare integ r ab le rep re senta t i on ) 135 Iwasawa 분해 71, 74 大 전등방적 부분공간(t o t all y iso tr o p ic subsp a ce) 170 정 칙 (reg ular ) 200 정 칙 원 (reg ular element) 77 제 2 가산적 (second counta b le) 21 제 한된 뿌리 (restr i c ted root) 71 제 한된 뿌리 공간 (res t r i c t ed root spa ce) 71 종속적 (subordi na te ) 170 주조성 렬 136, 211

Zuckerman 궤 적 13 준동형 사상 (homomo rphi sm) 24 중복수 {mul tip l i c ity) 97 중 복 수 1 정리 155 지 배 적 이 다 (dom i nan t) 50 지 수사상 (ex p onen ti al mapp ing ) 26 지 표 (charac t er) 40, 45, 135 직 교 성 관 계 (orth o g o nali ty relati on ) 40, 43, 44 云 첨 점 포물적 부분군 (cus pi dal pa raboli c s ubg rou p ) 152 최고 무게모듈 (h ig hes t weig h t module) 55 최 고 무 게 벡 터 (high est weig h t vecto r ) 55 추상적 뿌리 시 스템 (abstr a ct root sys te m ) 28 축 소되 어 있다 (reduced) 29 = Carta n 대 합변환 (Car t an inv oluti on ) 67 Carta n 분해 68 Ca rtan 행렬 30 Casim ir 원 104 K- 극화 부분대 수 (K- p olar i za ti on) 170 KAK 분해 83 K- 유한 (K- finit e) 97 K- 타입 (K-ty pe ) 97 Kronecker 곱 37 Ki rillov 궤적방법 163 Ki rillov 대 응 15, 173 -18 1 Ki lling 형 식 25

E 퇴화궤적 222 트레 이스(t race) 37, 39 특이 집 합 (s i n gu lar set) 200 立 판별식 함수 (d i scr i m i nan t) 200 평 균 (avera g e) 207 표준 뒤 얽 힌 작용소 (s t andard int e r tw i ni n g op e rato r ) 154 표준 포물적 부분군 (s t andard pa raboli c s ubg rou p ) 155 표현 (re p resen t a ti on) 22 Pois s on 괄호 24 Poin c are- B ir k hoff -W i tt 정 리 36 Plancherel 공식 111 t 하중앙급수 (lower centr a l serie s ) 24 Heis e nberg 군 195, 216 Haris h -Chandra 매 개 변수 152 Haris h -Chandra 모듈 6, 152 해석 적으로 정수이다 (anal yti call y int e g r al ) 49 허수뿌리 158 허 용적 이 다 (a dmi ss i ble) 98, 113 허용표현 (ad mi ss i ble rep re senta t i on ) 98 Hilbe rt- S ch midt 노옴 196

양재현 서울대학교 수학과 졸업 동 대학원 이학석사 . 미국 캘리포 니 아 대 학 (U . C. Berkeley) 이 학박사 . 미 국 하버 드 대 학 객 원교수. 일본 교토 대학 수리해석연구소 초빙교수 . 독일 하 이델베르크 대학, 막스 플랑크 수학연구소 초청교수 . 현재 인하대학교 수학과 교수 . 저서로는 『 미분기하학 입문 』 『 벡터속 이론 』 『 선형대수학 』 『 20 세기 수학자 들 과의 만남 』 등과 보형형식과 관계된 다수 의 논문아 있다. Lie 군의 표현론 대우학술총서 • 자연과학 127 1 판 1 쇄 펴냄 1998 년 11 월 25 일 지은이 양재현 펴낸이 朴孟浩 펴낸곳 (주)민음사 출판등록 1966. 5. 19 제 16-490 호 서울시 강남구 신사동 506 강남출판문화센터 5 층 515-2000( 대표전화), 515-2007( 팩시밀리) ® 양재현, 1998 대수학, 군론 KDC/412.86 Printed in Seoul, Korea 값 14,000 원 ISBN 89-374-3627-2 94410 89-374-3000-2 (세트)

| 대우학술총서사언과야 1

1 소립자와 게이지 상호작용 김진의 2 동력학특론 이병호 3 질소고정 송승달 4 상전이와 임계현상 김두칠 5 촉매작용 진종식 6 되스바우어 분광학 옥항남 7 극미량원소의 영양 승정자 8 수소화봉소와 유기봉소 화합물 윤능만 9 항생물질의 전합성 강석구 10 국소적 형태의 Atiy a h-sin g e r 지표이론 지동표 11 Muco p ol y-s acchar i des 의 생화학 및 생을리학 박준우 12 천체물리학 홍승수 13 프로스타글라딘 합성 김성각 14 천연물화학연구법 우원식 15 지방영양 김숙희 16 결정화유리 김병호 17 고분자에 의한 화학반응 조의환 18 과학혁명 김영식 19 한국지질론 장기홍 2 -0 정토이론-~링궐 21 원자핵반응론 정운혁 22 파괴역학 김상철 23 분자궤도 이른 이익춘 24 반응속도론정경훈 25 미분위상수학 이 현구 26 자기공명방법 조성호 27 플라스마 물리학과 핵융합 최덕인 28 천문관측과 분석 이시우 29 석탄에너지변환기술 김상돈 30 해양미고생물학 백광호 31 편미분방정식론 김종식 32 대통일 이론소광섭 泣굴속전자계의 다체이론 김덕주 34 액정중합체 진정일 35 복합재료권숙인 36 단백질 생합성 박인원 37 한국의 광물종 김수진 38 일반상대론이철훈 39 레이저 광산란 분광학 김종진 40 복소다양체론 김상문 41 역학적 연구방법 김일순 42 핵구조물리학 민동필 43 후리에 해석과 의미분 작용소

김도한 44 한국의 고생물 이 하영 45 질량분석학 김명수 46 금변론 박대현 47 생체에너지 주충노 48 리이만 기하학 박을룡 49 군표현론 박승안 50 비선형 편미분 방정식론 하기식 51 생체막 김형만 52 수리분류학 고철환 53 찰스 다윈 정용재 54 금속부식 박용수 55 양자광학 이상수 56 효소반응 속도론 서정현 57 화성암 성인론 이민성 58 확률론 구자홍 59 분자분광학 소현수 60 벡터속 이론 양재현 61 곤충신경 생리학 부경생 62 에너지띠 이론 모혜정 63 수학 기초론 김상문 64 신경과학 김승업 박찬웅 -6 5 _ BCH 부호- 와 R 값처: Solomon 부호 이만영 66 양자전기역학김영 67 군환론박재걸 68 대수기하학조영현 69 양자장이론이재형 70 해양오염과 생태계 심재형 71 비기체 연소합성 (SHS) 여철현 72 크로마토그래피 이대운 73 곤충의 사회행동 추종길 74 동위원소 지질학 김규한 75X 선 결정학김양 77 통계역학조순탁 78 고분자의 구조와 형태학 이석현 79 LC 에 의한 광학 이성질체의 분리현명호 80 신경전달물질 서유헌 81 발생과 유전자 발현 이양립 82 스테로이드 화학 김완주김득준 83 다체계론엄정인 84 중핵반응른김병택 85 비가역 열역학 이철수 86 등각장론임채호 87 방사선생물학 남상열

88 석유지질학 이용일 89 베르누이 시행의 통계적 분석 배도선·김성인 90 신경세포생리학 강만식 91 생리활성을 가진 C-P 화합물의 화학 김용준·강익중 92 생물유기화학 서정헌 93 조직배양 김승업 94 유기전이금속화합물 조남숙 외 95 실내환경 과학 김윤신 96 유한요소법 정상권 97 대수적 위상수학 우무하 김재룡 98 파인만 적분론 장건수 99 응용 미생물학 박무영 100 리보플라빈 이상선 101 노화 김숙희 김화영 102 매트릭스 격리분광학 정기호 103 신경계 조직배양 김승업 104 지구화학 김규한 105 은하계의 형성과 화학적 진화 이시우외 107 액체의 미립화 이상용 .f 0 8 - 접토광물학문적수 109 중국수학사 김용운 • 김용국 110 퇴적암석학 유강민 • 우경식 111 로렌츠 기하학 김종 112 몬테카를로 방법의 물리학적 응용 계삼 113 천체역학최규홍 114 확미분방정식 김재희 115 전자현미경의 원리와 응용 이정용 116 미세구조유체 흐름의 원리 양승만·박오 117 고분해능 분자분광학 이상 118 생명체의 신호전이 재쾌 외 119 고체추진제 노'I. 120 군과 조화해석 계승혁 121 인공 수정과 수정란 이식 입경순 의 122 인산이노시를 정성기 • 장영테 123 탄화수소의 산화반응 이규완 124 매듭른 고기형 • 진교택 125 빛의 양자이른 이혜옹 126 양자유체 'He 업정이