서울대학교

서울대 AI연구원 인공지능 ELSI 연구센터는 “인공지능의 윤리적·법적·사회적 쟁점들”을 주제로 다음과 같이 심포지움을 개최합니다.
이번 행사는 대형언어모형, 이미지 생성모형, 챗봇, 컴퓨터 비전 등 인공지능 기술이 제기하는 여러 쟁점들을 법적, 윤리적, 사회학적 관점에서 검토합니다.
이를 통해, 빠르게 발전하고 있는 인공지능 기술과 더불어 살아가기 위해 이들을 어떻게 길들여야 하는지 생각해보는 계기가 될 것입니다.
많은 관심과 참여 바랍니다.

일시: 2023년 12월 11일 (월) 오후 3-6시

장소: 인문대 신양관 302호 국제회의실

참여를 바라는 분들은 아래 링크를 통해 신청해 주시기 바랍니다.
https://forms.gle/SYJ9HcDfHDL2wRET7


발표1. 김병필 (KAIST 기술경영학부) 인공지능 학습과 저작물의 공정이용

요약. 인공지능 개발자는 저작권자의 허락 없이 저작물을 인공지능 학습에 이용할 수 있는가? 이 문제에 대한 답을 찾는 것은 중요한 정책 과제가 되고 있다. 인간 창작자들은 생성형 AI의 확산에 거세게 저항하고 있고, 세계적으로 많은 소송이 제기되고 있기도 하다. 하지만 인간 창작자 보호를 위한 저작권 보호를 강화하는 것은 오히려 극소수 빅테크 기업의 시장 지배력을 강화할 뿐이라는 우려에도 타당성이 있다. 이 문제는 현행 법제도를 어떻게 해석·적용해야 할 것인가라는 질문을 넘어, 인공지능 시대에 지식재산권 제도를 어떻게 새롭게 설계하고 재편해야 할 것인지 묻는다. 본 연구는 저작권 제도에 관한 기존 법경제학 연구의 논의를 바탕으로, 인공지능 학습에 있어 어떠한 요건 하에서 공정이용이 인정될 수 있을 것인지, 나아가 어떠한 입법 혹은 정책적 조치가 요구되는 지에 관해 의견을 제시한다.

발표2. 김현섭 (서울대 철학과) The moral and psychological challenges of “chatting” with large language models

Abstract: Large language models (LLMs) such as ChatGPT are basically sequence predictors. LLMs are simply sending out the words that are most likely to follow (the background prompt of the developer and) the prompt the user enters, in light of the large corpus on which they are trained. Presumably, LLMs do not believe or intend what their output sentences make them appear to believe or intend. They do not deserve reactive attitudes such as gratitude, resentment, or blame. At the same time, many human users of LLMs, at least implicitly, ascribe beliefs and intentions to them and have reactive attitudes towards them. In this talk, I examine why these misplaced ascriptions of propositional and reactive attitudes are problematic. It seems that the developers and/or operators of LLMs should take measures to avoid misleading users. Even when the users are not misled, I argue, they are put in a predicament. While they are aware, reflectively, that they should not ascribe propositional and reactive attitudes to LLMs, they find themselves inclined to do so. They may have practical reasons to accept or pretend that propositional and reactive attitudes are genuinely ascribable to LLMs, while they cannot bring themselves to fully believe so. I suggest that it would be hard for many of us to get rid of the cognitive dissonance and that we might have to learn to live with it.

발표3. 김은성 (경희대 사회학과) Sociotechnical challenges to the technological accuracy of computer vision: The new materialism perspective

Abstract. Computer vision is a subdomain of artificial intelligence widely utilized in autonomous vehicles, digital health, and image processing at large. Despite significant breakthroughs, concerns persist regarding the technical challenges computer vision may encounter in the real, open world. Drawing on qualitative interviews and content analysis, this article examines the diverse sociotechnical challenges that affect the technical accuracy of computer vision systems in real-world settings. From a new materialism perspective, this article defines the technological accuracy of a computer vision system as its ability to successfully enact an objective reality of things through the maintenance of a stable sociotechnical assemblage comprising various components, including things, sensors, data, algorithms, experts, institutions, and more. Computer vision-based artificial intelligence systems evolve as dynamic, emergent entities responsive to contextual changes across phases, domains, and environments. However, when these changes are inadequately considered, computer vision may produce unintended performances or encounter technical dilemmas. Ultimately, the success of computer vision hinges on its capacity to adapt to an open world characterized by diverse contexts or, alternatively, to flatten those contexts into a uniform, closed world. The conclusion proposes future research and policy recommendations for achieving technological accuracy in computer vision.

주최: 서울대 AI연구원 인공지능 ELSI 연구센터
후원: 한국연구재단

문의: 유하연 조교 (hayeonyu@snu.ac.kr)