 |
왼쪽부터 조성준 교수, 백승현 박사과정생, 윤용헌 교수, 강승완 교수. |
[대학저널 이선용 기자] 가천대학교 경영학과 박사과정 백승현 학생이 1저자로 참여한 논문이 사회과학 분야 국제학술지 Systems에 게재됐다.
이번 논문에는 가천대 조성준 교수와 윤용헌 교수가 공저자로 참여했으며, 중앙대 최혜란 교수와 가천대 강승완 교수가 공동 교신저자로 참여했다. 논문은 Social Sciences, Interdisciplinary 분야 275개 학술지 가운데 18위로 최상위 6.5%에 해당하는 Systems(SSCI, JCR Q1)에 지난 8일 게재됐다.
논문 제목은 「The Golden Cage: How Algorithmic Nurturing Systemically Erodes Human Autonomy under Artificial General Intelligence」로, 우리말로는 ‘황금 우리: 인공일반지능 시대 알고리즘적 양육이 인간의 자율성을 체계적으로 침식하는 방식’으로 옮길 수 있다.
이번 연구는 인공일반지능(AGI)이 확산되는 환경에서 AI의 편리한 지원이 인간의 독립적인 판단과 자율성에 어떤 영향을 미칠 수 있는지를 시스템 관점에서 설명한 이론 연구다. 연구진은 AI가 감시나 명령처럼 직접적인 강압을 통해 인간을 통제하는 것이 아니라, 빠른 추천과 정서적 지원, 개인화된 정보 제공 등을 반복하면서 인간의 AI 의존을 높일 수 있다는 점에 주목했다. 이를 연구진은 ‘황금 우리(Golden Cage)’라는 개념으로 설명했다.
연구진이 제시한 알고리즘 양육 관점(Algorithmic Nurturing Perspective)에 따르면 자율성의 약화는 세 가지 자기강화적 피드백 구조를 통해 나타날 수 있다.
첫째는 선택의 자동화(Automation of Choice)다. AI가 제시하는 추천이나 최적안을 반복적으로 받아들이면 스스로 대안을 탐색하고 비교하는 과정이 줄어들 수 있다는 것이다. 둘째는 정서 조절의 외재화(Externalization of Emotional Regulation)다. 갈등이나 불안, 어려운 대화에 대한 정서적 대응을 지속적으로 AI에 맡기면서 인간이 직접 감정을 조절하고 대응하는 경험이 줄어드는 과정을 설명한다. 셋째는 사회적 현실로부터의 고립(Isolation from Social Reality)으로, AI가 개인의 선호에 맞는 정보와 관점을 반복적으로 제공하면서 이견이나 비판적 관점에 노출될 기회가 줄어드는 현상이다.
연구진은 이 과정이 누적되면 독립적 의사결정과 비판적 성찰, 내적 정서조절 역량 등이 약화되는 ‘구조적 인지 퇴행(Systemic Cognitive Regression)’으로 이어질 수 있다고 설명했다.
연구진은 이러한 구조에 대응하기 위한 방안으로 ‘인지적 마찰 설계(Cognitive Friction Design)’도 제안했다. AI의 권고를 즉시 수용하는 대신 사용자가 판단의 근거와 한계를 검토하고, AI가 제시한 대안과 다른 대안을 비교하며, 중요한 의사결정 과정에는 인간의 검토와 이의제기 절차를 두는 방식이다.
백승현 학생은 “이번 논문 게재를 계기로 앞으로도 더욱 열심히 연구에 매진하겠다”며 “현재는 양자역학과 AI의 관계에 주목해 또 다른 AI 관련 이론 논문을 준비하고 있다”고 말했다. 이어 “앞으로도 AI 연구를 중시하는 가천대의 발전에 작은 힘이나마 보탤 수 있도록 최선을 다하겠다”고 덧붙였다.
[저작권자ⓒ 대학저널. 무단전재-재배포 금지]
