지능 이야기 #1

editor, Junyeob Baek
Robotics Software Engineer /RL, Motion Planning and Control, SLAM, Vision

---

지능에 대해 탐구하고자 써내려가는 글입니다.
실질적인 지식에 가깝기보다는 스스로 궁금하고 관심있는 분야에대해 써내려가는 소설에 가깝습니다.
아직 저도 공부하는 중이고 또 이러한 것들을 생각하며 연구하고 탐구하고싶다는 것 뿐입니다.
부디 이 글을 통해 관련 키워드와 개념에 대한 흥미를 얻어가셨으면 좋겠습니다.
아직 밝혀지지 않은 지식이 더 많으며 밝혀진 팩트는 논문에 있답니다.

 

# 1

갓 태어난 아기지능은 데이터의 수용체(observation layer)와

자신을 움직일 수 있는 근육신경(action layer)를 가지고 태어난다.

세상으로부터 수많은 감각(시각, 청각, 촉각, 관성, 힘)을 느끼지만

아기지능은 이것을 어떻게 다뤄야할 지 알 방법이 없다. (random action from init network)

 

이 때 아기지능은 근육신경을 마구마구 움직여본다.

어떻게 하는지 잘은 모르겠지만 이리저리 움직여본다.

눈알을 굴리는 근육을 움직여보니 시각정보가 바뀐다.

손, 발, 등 온몸의 관절을 움직여보니 느껴지는 촉각과 힘이 들어가는 정도가 느껴진다.

아하 이렇게하는거구나.

 

점점 시각정보와의 연동도 가능해진다.

눈앞에 이런 형상이 있을때 손을 이렇게 움직이면 이런 촉각이 느껴지는구나.

아기지능이 가진 모든 감각기관과 근육신경의 패턴을 학습하기 시작한다.

이 때 아주 중요한 개념이 있다. 바로 호기심(curiosity)이다.

내가 어떤것을 알고싶고 무엇이 궁금한지 계속 묻게되고 미지의 세계를 탐색하고 싶은 마음.

호기심으로 이러한 패턴을 알아낼 수 있을 것이다.(curiosity-driven exploration)

 

패턴을 알아내는 과정에서 또하나 중요한 개념을 알게된다.

어떤 것을 만졌더니 아프고, 뜨겁고, 시끄럽고.. 또는 부드럽고, 좋은 소리가 나고..

어떤 것을 먹었을 때 맵고, 쓰고, 짜고.. 또는 달고, 상큼하고..

바로 reward와 cost이다. 내가 했던 행동들에 대한 상관관계를 얻게된다.

어떤 행동을 했을 때에는 어떤 결과가 있겠구나. (policy network)

그것이 나에게 독이나 득이 되겠구나.(value network)

아기지능은 이러한 인과관계를 통한 패턴을 이해하고 행동하게 된다.(reinforcement learning)

 

아기지능은 이제 어느정도 세상에 대한 자신만의 형태(representation)와 개념(concept)을 가지고 있다.

그리고 그들과 나의 행동에 대한 인과관계 역시 패턴화할 수 있게 되었다.

사실 이러한 수많은 데이터의 범람과 수많은 종류의 형태를 구별하고 생성하는 일은 쉽지 않다.

보통은 새로운 형태를 학습할 때에 기존의 개념이나 형태를 쉽게 잊어버린다.(catastrophic forgetting)

아기지능은 서로 다른 컨셉(concept drift)에 대해 학습할 때 다른 개념으로 학습할 수 있어야 한다.

그리고 서로 다른 컨셉과 task에 대해 효율적으로 저장할 수 있어야 한다.

(continual learning / meta learning / multi-task learning)

 

이렇게 초기의 아기지능은 다음과 같은 특징을 지닌다.

1. 호기심을 이용해 다양한 감각과 움직임간의 관계성과 패턴을 학습한다. (emboded learning, curiosity-driven exploration)
2. 특정 행동에 대한 결과를 통해 인과관계를 형성하고 패턴을 이용해 더 좋은 결과를 추구하고 나쁜결과를 피할 수 있게 된다.(reinforcement learning)
3. 이러한 일련의 학습과정의 축적을 위해 다양한 컨셉에 대해 구별하고 이를 효과적으로 저장 할 수 있다.(continual learning)