“100년이 넘는 시간 동안, 과학자들은 광학현미경으로 작은 물체를 보는 것을 포기했었습니다.” 김성근 (서울대 화학과) 교수가 2014 노벨상 해설 강연의 초반에 한 말이다. 2014년 노벨화학상 수상자인 에릭 베치그(Eric Betzig), 슈테판 헬(Stefan W. Hell), 윌리엄 머너(William E. Moerner)는 형광현미경을 발명해 기존 현미경을 통해 관찰할 수 없었던 부분을 관찰할 수 있게 했다. 이들의 발명은 살아있는 세포를 높은 해상도로 본다는 점에서 더욱 의미 있었다.
고등과학원에서 주최한 ‘2014 노벨상 해설 강연’과 유임주(의과대 의과학과) 교수와의 인터뷰를 바탕으로 ‘보다 작은 유기체를 살아있는 상태로 보기 위한 과학자의 노력’을 재구성해봤다.

미생물학 시작 가능케 한 현미경
유 교수는 “미생물학이라는 새로운 세계를 연 현미경 발명은 인류에게 혁신적 사건”이라고 평했다. 1676년 네덜란드의 상인 레벤후크(Antonie van Leeuwenhoek)는 렌즈를 깎아 빗물을 관찰해 현미경의 원리를 발견했다. 이 원리로 최초로 만들어진 현미경이 가시광선을 이용하는 광학현미경이다.
광학현미경은 200㎚보다 작은 물체는 관찰이 불가능했다. ‘아베 한계’라 이름 붙여진 빛의 회절 한계 때문이었다. 19세기의 물리학자 아베(Ernst Abbe)는 현미경으로 두 점을 구분하기 위해 필요한 두 점의 최소 거리는 파장의 절반이라는 것을 발견했다. 이에 따르면 가시광선의 파장은 400~700㎚이기 때문에 광학 현미경의 해상도는 최소 200㎚에서 최대 350㎚다.
200㎚의 벽을 넘기 위해서는 가시광선보다 파장이 짧은 파동을 이용해야 했다. 과학자들은 ‘전자’를 사용했다. 1932년 독일의 과학자 에른스트 루스카(Ernst Ruska)는 ‘전자 현미경’을 발명했다. 전자 현미경에서는 전자빔(beam)이 가시광선의 역할을 한다. 관찰 대상에 전자를 빠르게 쏜 후, 전자가 대상에 충돌하면서 발생하는 파장을 이용해 물체의 상(像)을 10만 배율로까지 관찰할 수 있다.
전자가 갖는 파장은 에너지에 의존하는 ‘드 브로이 파장’으로, 에너지가 커질수록 줄어든다. 김성근 서울대 화학부 교수는 전자를 빠르게 쏠수록 전자의 파장이 작아진다고 설명했다. “파장을 줄이려면 에너지를 키워야 합니다. 그러면 높은 에너지를 사용하기 때문에, 시료가 손상될 수 있습니다. 살아있는 세포를 볼 수 없는 것이죠.”

살아있는 세포를 보기 위한 노력
세포를 살아있는 상태에서 관찰하는 것은 생명현상 원리를 파악하기 위해 중요하다. 강주연 서울대 바이오-나노스코피 연구실 연구원은 “신약을 테스트한다고 했을 때, 이미 죽은 세포에는 약을 투여해도 아무런 변화가 일어나지 않는다”며 “동적인 모습을 관찰하려면 살아있는 상태의 사람을 관찰해야 하는 것과 같다”고 말했다.
과학자들은 보다 작고 살아있는 세포를 보기 위해 원자 현미경(Scanning probe microscopy)을 발명했다. 원자 현미경은 탐침을 이용해 시료의 표면 형상을 알아내는 방식으로 0.01㎚ 크기의 시료까지 측정할 수 있다. 강 연구원은 “눈을 감고 손으로 더듬거려서 겉모양을 인식하는 것과 비슷한 방식”이라며 “살아있는 세포의 표면은 볼 수 있지만, 세포 안에 있는 단백질이나 생체분자를 보기에는 적합하지 않다”고 설명했다.
빛 대신 초음파를 이용한 ‘초음파 현미경’도 원자 현미경과 유사한 원리로 살아있는 세포의 구조를 볼 수 있다. 초음파를 관찰 대상에 발산해 표면의 진동이나 되돌아오는 파동을 분석해 대상의 외부뿐만 아니라 내부까지 관측할 수 있다.
대중에게 의료 분야에서 친숙한 ‘X선’ 역시 살아있는 상태의 세포를 볼 수 있는 도구이다. 1901년 첫 노벨 물리학상을 받은 X선 기술을 이용한 현미경은 광학현미경으로는 관찰할 수 없는 세포 내부까지 관찰할 수 있다.

가시광선의 한계 뛰어넘다
2014년 노벨 화학상을 받은 형광 현미경은 가시광선 영역의 빛을 사용하면서도 살아있는 세포를 6㎚ 수준까지 관찰할 수 있게 했다는 점에서 의미가 있다. 수상자 슈테판 헬(Stefan W. Hell)은 두 개의 레이저를 이용한 STED(Stimulated emission depletion) 현미경을 이용해 회절 한계를 뛰어넘었다. 김성근 교수는 “고분해능을 갖기 위해서는 빛 자체를 줄이면 된다는 간단한 생각이 성공한 것”이라고 말했다. 형광체를 비롯한 광자는 일정한 에너지 준위를 가진다. 슈테판은 광자의 에너지 준위를 조절할 수 있는 빛을 사용했다. 도넛모양의 레이저는 ‘STED 빔’으로 레이저가 닿는 부분에 있는 형광체의 에너지 준위를 떨어뜨린다. 원 모양의 레이저는 접촉 부분의 에너지 준위를 들뜬 상태로 만들어 빛나게 한다. 두 빛을 함께 비추면  도넛 모양 레이저의 구멍 부분만큼 작은 크기의 형광체를 관찰할 수 있다. 김 교수는 “STED 레이저 빔의 세기를 증가시키면 이론적으로는 무한히 가는 빛을 만들 수 있다”고 말했다. 나노미터 크기의 중심부만 형광으로 밝히는 두 레이저를 표본 위를 훑으며 움직이면 표본 전체의 이미지를 얻을 수 있다. 도넛 모양 레이저의 구멍이 작을수록, 즉 형광으로 빛나게 하는 부분이 작을수록 최종 이미지의 해상도는 높아진다. 점묘화를 구성하는 점이 작을수록 세밀한 그림을 그릴 수 있는 것과 같은 원리이다. 김 교수는 “STED 현미경은 이론적으로 해상도의 한계가 없다”고 했다.
공동 수상자인 에릭 베치그(Eric Betzig)과 윌리엄 머너(William E. Moerner)는 형광 단백질을 이용해 초 고해상도의 이미지를 얻었다. 머너(Moerner)는 특정 파장의 빛을 쪼이면 초록 형광 단백질(GFP, the green fluorescent protein)을 켜고 끌 수 있다는 것을 발견했다. 이를 이용한 STORM/PALM 현미경은 약한 빛을 단백질에 쬐어 형광 분자를 끄고 켤 수 있다. 김 교수는 “단백질에 달린 on/off 스위치를 누르는 것과 같은 것”이라고 설명했다. 빛은 모든 형광 분자를 빛나게 할 만큼 강하지 않아 단백질 내 형광 분자의 일부만 볼 수 있다. 이 때문에 관찰을 반복하면 동일한 대상의 각기 다른 부분이 빛나는 이미지를 여러 장 얻는 과정을 거친다. 이 이미지들을 합하면 높은 해상도의 완성된 이미지를 얻을 수 있다.
이들은 형광 분자 간 간격을 아베 회절 한계인 200㎚ 이상으로 벌리기 위해, 젤 위에 단백질을 배치했다. 이를 통해 광학 현미경으로 관찰해도 빛나는 단일 형광 단백질을 구분할 수 있다. 광자의 이미지를 합쳐 완전한 상을 만들기 때문에, 광자가 많을수록 고 해상도의 상을 얻을 수 있다.
김 교수는 헬의 방법이 더 빠르게 상을 얻을 수 있다고 설명했다. 김 교수는 “베치그와 머너의 방법은 야구 경기장에 동전 무더기를 떨어뜨린 다음 돈 받은 사람을 조금씩 일어나라고 하는 것과 같다”며 “적은 양의 빛을 사용해 소수의 분자만 빛을 내게 하는 것이기 때문에 오랜 시간이 걸린다”고 말했다. 단일형광분자관측 방법을 이용해 미토콘드리아를 관찰하려면 30분 정도가 걸린다. 이에 비해 헬의 방법은 실시간으로 대상을 관찰할 수 있다. 김성근 교수는 헬의 방법을 ‘얇은 막대기로 구멍의 개수를 파악하는 것’으로 설명했다.