먼저 온 미래

내 생각에는 인공지능이 아직 할 수 없고 인간만이 할 수 있는 일은 따로 있다. 좋은 상상을 하는 것, 우리가 미래를 바꿀 수 있다고 믿는 것, 그렇게 미래를 바꾸는 것이다. 윌리엄 어니스트 헨리의 시 「인빅투스」 마지막 구절을 조금 변형해 책을 마무리하도록 하자. 우리는 우리 운명의 주인이다. 우리는 우리 영혼의 선장이다. 아직까지는.

책이 마무리 되었다. 저자도 나도 명확한 답은 못 찾은 것 같다. 파도에 올라타는 것 외에 내가 뭘 해야 할지 감이 안 온다. 아마 못 탈수도 있겠다..

김영진

『1984』가 그리는 미래는 정말이지 끔찍하고 무섭다. 그래서 사람들은 행동을 바꿨고 우리는 그런 미래를 맞지 않았다. 『멋진 신세계』가 그리는 미래는 그 정도로 끔찍하고 무섭지는 않다. 그래서 사람들은 행동을 바꾸지 않았고 우리는 『멋진 신세계』가 그린 것과 비슷한 미래를 맞았다. 『1984』는 사람들의 행동을 바꾼 위대한 작품이고, 『멋진 신세계』는 훌륭한 작품이지만 사람들의 행동을 바꾸는 데에는 아쉽게도 실패했다. 이를 두고 오웰이 틀렸다고 말하는 건 지진 이후에 멀쩡히 서 있는 건물을 보고 ‘지진이 이렇게 약한데, 건축가에게 속아 비싼 내진 설계를 적용했잖아’ 하고 투덜대는 것과 마찬가지다.

사람들은 이득보다 손해에 더 민감하다고 배웠는데, 최악의 시나리오를 바꾸기 위해 사람들은 바뀌고 세상은 나아가나 싶기도 한다. 최악의 우주를 피하기 위해 노력하는 사람은 많아도, 최고의 우주를 쟁취하기 위해 노력하는 사람은 비교적 적다는 느낌도 드는 것 같기도 하고... 인생도, 투자도 작은 것에 일희일비하기보다 큰 상방을 찾아다니는게 좋은 것 같다.

김영진

우리는 과학기술이 가치중립적이라는 헛소리를 경계해야 한다. 과학기술은 물질세계뿐 아니라 정신세계 깊은 곳까지 힘을 미치는 강력한 권력이다.

맞는 말. 특히 인공지능을 개발하는 사람들에겐 철학이 있어야 한다고 생각한다. 하지만 사람 생각이 다 같을 수가 없기 때문에... 어려운 문제같다.

김영진

스타성은 때로 엉뚱한 곳에서 온다.

내가 (특이한) 매력이 있는 사람에게 끌리는 것이 그냥 스타를 좋아하는것이었나?

김영진

탁월함이라는 가치는 결코 중심 요소가 아니며 아주 낮은 수준으로 요구된다. 그러면 바둑이건 문학이건, 참여하는 개인이 노력해야 하는 방향이 달라진다. 탁월함이 아니라 스토리에 더 공을 들여야 한다.

서사를 더 중요시본다. 기존의 시험점수를 반영하던 의전원이 갑자기 시험점수를 아예 안 보게 된 이유도 이런 탓일까?

김영진

인공지능을 사용하지 않더라도, 인공지능을 사용하는 다른 사람들 때문에 내가 추구하는 가치가 변하고 뒤바뀐다. 나를 둘러싼 기술-환경이 바뀌기 때문이다. 내가 다른 사람과 더불어 살아가는 한 그 영향을 받는다.

빠르게 변화하는건 알지만, 비전공자인 나는 그에 맞춰 변화에 적응하는 것이 쉽지는 않다. 멘토나 강의가 있었으면 좋겠다..!

김영진

하우절은 같은 책에서 “많은 이들이 경제적 인센티브는 뿌리칠 수 있지만 문화적, 집단적 인센티브는 더 뿌리치기 힘들다”라고도 적었다. 예술가들을 움직이는 인센티브에는 경제적 보상도 있지만, 그들은 뭔가 고상한 것, 의미 있는 것, 자신만이 만들 수 있는 것을 만들어 낸다고 인정받는 것에도 강하게 끌린다. 새로운 기술이 그 인정 욕구를 위협할 때 예술가들은 예술을 재정의해야 한다는 강렬한 충동에 휩싸인다.

전 코멘트에 썼던 재정의에 대한 내용이 바로 나와서 기뻤다. 인공지능에게 맡길 건 맡기고 인류가 기여할 수 있는 부분을 다시 고민하는 시기인 듯 하다.

김영진

지능을 정의하려는 형이상학적 시도는 번번이 실패하는데, 어쩌면 우리가 사용하는 언어 자체의 한계 때문인지도 모른다. 사실 지능을 정의하는 데 성공한다 해도 대단한 상업적 보상이 따라오지 않는다. 지능을 정의하기보다는 만들어 내는 편이 더 쉽고, 더 유혹적이다.

인공지능을 이미 완전히 이해할 수 없기 때문에, 사람과 인공지능이 충돌할 때 어떻게 해야할까? 2년전 gpt가 내놓은 답변에 대한 박사급 연구자들의 이해가 달랐던 이야기는 나에게 적잖은 충격이었다. 진단 AI와 의료진의 생각이 충돌할 때 나와 다른 의견을 수용하면서 의료행위에 대한 책임을 과연 질 수 있을까? 다양한 사고실험이 필요한 시점 같다.

김영진

‘기풍이라는 단어가 문제’라는 게 내 대답이다. 이 단어는 명확히 정의되어 있지 않았다. 그 단어에는 두 가지 의미가 섞여 있었다. 그리고 알파고 때문에 우리는 그 단어가 명확히 정의되어 있지 않음을 깨닫게 되었다.

코딩의 많은 부분이 대체되면서 개발자들은 프로그래밍이라는 행위의 본질을 다시 묻기 시작한다. 알파고가 나오면서 바둑 기사들은 기풍이라는 단어의 정의를 다시 묻는다. 로봇에 인공지능을 적용하기 위해 우리는 세상과 접촉하는 방식을 다시 한번 깊게 생각하게 된다. 인공지능과 함께 살아가기 위해 겪는 과도기적 행동인 것 같은데... 이런 고민들이 모두의 행복으로 이어지길.

김영진

바둑 AI 프로그램은 노력형 기사들에게 커다란 도움을 주었다. 천재형 기사들은 상대적으로 불리해졌다.

치의학적 소견과 지식은 상향평준화 될것이고, 그렇다면 실제 임상환경과 인공지능 사이 인터페이스 역할을 잘 수행하는 것이 다음 치과의사의 덕목이 아닐까? 그것마저 로봇을 시키면 그 다음은 무엇일까?

김영진

생각하는 기계, 따라 하는 사람

사유의 외주화. 스스로 고민해보는 과정들은 이전 시대의 유행으로 치부되는걸까, 그럼에도 불구하고 그 의의가 남아 있을까?

김영진

“명확하게 말씀드리면 알파고 이전의 책들은 모두 폐기해야 해요.”

저번주에 배운 면역학, 생리학과 같은 것들이 5년 뒤에는 교과서에서 지워질 지식일 수도 있다는 생각이 든다. 강의실 밖에서 내가 무엇을 할 수 있을지 깊은 고민이 든다.

김영진

왜냐하면 제 주변의 동료 작가가 굉장히 멋진 작품을 발표했다고 해서 거기에 위협을 느낄 필요는 없어요. 오히려 동료 작가에 대해서는 읽고, 존경하고, 따라가고 싶은 느낌이 들거든요.

학생 때는 질투와 경쟁이 원동력이었다. 지금도 아니라고는 부정할 자신이 없다. 그렇지만 예전의 나와 다르게 좀 더 이성적으로 생각해 볼 여유가 생긴 것 같다. 나보다 나은 사람의 장점을 BM하고, 어떻게 내 성장에 적용해 볼 수 있을까가 주 관심사이다. 질투의 대상이 인공지능이라면? 사람들은 경쟁심보다는 무력감과 두려움을 먼저 느낀다. 내가 질투와 경쟁심으로부터 조금 여유로워질 수 있던 것도 이러한 사실 때문이다. 무의미한 자기 파괴로 귀결될 거 같기 때문이다. 선생님 입장에서 학생들이 받아쓰기 한개 더 맞은 건 큰 감동을 주지 않는다. 오히려 엉뚱한 에피소드를 만드는 학생이 더 기억날 뿐이다.

김영진