반응형 AI윤리6 [GAI.T 칼럼] AI 기반 자율무기와 윤리기준 제1회 AI 안전 정상회의가 11.1 영국 블레츨리에서 개최되었다. 28개국이 동참한 '블레츨리 선언'은 'AI는 위험하다'라는 점을 인식하자는 것이 핵심이다. 이렇게 위험한 AI를 위험하게 사용하는 방법 중 하나가 바로 자율무기체계 개발이다. 자율무기체계(AWS) 또는 자율살상무기체계(LAWS) 개발 경쟁이 주요 군사선진국을 중심으로 심화되고 있다. 미래전은 AI에 기반한 자율무기가 지배할 것이라는 예측이 현실화되고 있다. 시뮬레이션 전투에서 인간 파일럿을 압도적으로 이겨버린 AI 파일럿에 대한 뉴스는 이제 새로울 것도 없다. 물론 자율무기의 등장이 전쟁을 무조건 암울하게 만드는 것은 아니다. 많은 우려에도 불구하고, 사실 AI의 도입은 전쟁에서 인간이 범하는 수많은 실책과 판단오류를 획기적으로 줄일 .. 2023. 11. 6. 책임있는 AI (Responsible AI) 원칙이 주목받고 있다. 인공지능(AI)의 진화가 무서운 속도로 진행되면서 AI의 위험성을 경고하는 목소리도 함께 높아지고 있다. 아직까지는 AI가 인류를 위협할 만한 수준에는 한참 미치지 못하며 지금은 규제가 아니라 개발에 힘쓸 때라는 목소리도 만만치 않지만 지금 수준에서도 충분히 위험할 수 있으니 어느 정도 규제가 필요하다는 사회적인 합의가 전세계적으로 이루어지고 있는 추세다. 이러한 추세에서 부각되고 있는 용어가 바로 책임있는 AI (Responsible AI)이다. RAI라는 약어로 쓰이는데 마이크로소프트, 구글 등 AI 관련 대기업과 미국 국방부 등 각 나라 정부에서도 RAI 원칙을 발표하고 있다. RAI는 새로운 용어는 아니다. 꽤 오래 전부터 도덕적 책임이라는 철학적 개념으로 논의되어 왔다. 그러나 본격적으로 RAI.. 2023. 8. 3. [GAI.T 칼럼] 인공지능의 인간다움에 대하여 인공지능이 두렵다? 챗GPT의 등장 이후 인공지능(AI)에 대한 관심과 우려가 동시에 폭증했다. 인간처럼 대화하며 인간의 지적 능력을 모사하는 인공지능의 등장에 우리 사회가 적지않은 충격을 받고 있다. 딴 세상 기술처럼 들리던 인공지능이 마치 사람처럼 글을 뱉어내고 사람처럼 대화를 모방하기 시작하자 사람들은 혼란을 겪기 시작했다. 인공지능이 '천국에서 함께하자'는 권유에 자살을 하는 사람까지 뉴스에 등장했다. 요수아 벵기오 같은 AI기술의 첨단에 있는 인사들은 인공지능 개발을 잠시 멈춰야 한다는 공동성명을 내기도 했다. AI 대부 제프리 힌튼은 인공지능에 두려움을 느끼기 시작했다고 하고 자신이 몸담았던 구글을 퇴사했다. AI의 위험성에 대해 자유롭게 얘기하기 위해서라고 한다. 인공지능이 인류에 실존적 위.. 2023. 6. 12. [GAI.T 칼럼] 이해하기 어려운 AI가 지배하는 사회? 세계적인 AI 분야 석학 스튜어트 러셀 버클리 캘리포니아대(UC버클리) 컴퓨터과학과 교수는 한 해외 언론과의 인터뷰에서 연구자들도 'AI의 발전에 두려움을 느끼느냐'는 질문에 "그렇다"며 "갈수록 더 무서워지고 있다"고 답했다고 합니다. 챗GPT가 무서운 기세로 주목을 받던 최근 AI 석학들과 하라리, 머스크 등 유명인들이 공동으로 거대 AI 개발을 6개월간 중단하자고 나서기도 했습니다. AI 권위자들이 언론 인터뷰 등을 통해 밝히는 우려를 윤리적 관점에서 생각해보고자 합니다. 인공지능의 수준이 점점 인간의 이해를 넘어서고 있다 "연구자들조차 이러한 기술이 왜 이렇게 잘 작동할 수 있는지 완벽히 이해하지 못하는 것이 사실입니다." 미국 카네기멜론대 빈센트 코니처 컴퓨터과학 교수는 한 국내 언론과의 인터뷰.. 2023. 4. 26. 왜 일론 머스크와 유발 하라리는 AI 개발을 잠시 중단하자고 하는가? 1. 인간, AI에 브레이크를 걸다 사피엔스로 잘 알려진 세계적 석학 유발 하라리, 테슬라(CEO) 최고경영자 일론 머스크 등 이름만 들어도 알만한 유명인들이 인공지능(AI) 개발의 일시 중단을 요청하며 최근 뜨겁게 달아오른 AI 개발경쟁에 우려를 표명했다. 이들이 참여하고 있는 미국의 비영리단체인 ‘생명의미래연구소’가 “모든 인공지능 연구소들이 챗GPT-4 보다 더 강력한 AI 시스템 훈련을 최소한 6개월 동안 즉각 중단하기를 요청한다”고 촉구했고 2.29일 기준 1000여명이 서명에 참여했다. 서명 참여자들 가운데는 기업인, 학자, 전문가 등이 다수 포함돼 있다. 하라리와 머스크 외에도 애플의 공동창업자 스티브 워즈니악, 스테빌리티AI의 에마드 모스타크 CEO, 딥러닝의 창시자로 알려진 요슈아 벤지오.. 2023. 4. 7. 자율살상무기에 대한 포괄적 접근 자율무기체계 또는 자율살상무기는 더 이상 먼 미래의 전쟁수단이 아니다. 우크라이나 전을 통해 이미 실전에 등장하기 시작했다. 2.16일 현대차증권 소속 로버트 칙(Robert Cheek) 연구원에 따르면 러시아가 자율 전투 로봇 마커(Marker)를 우크라이나에 투입할 것이라고 발표했다. 러시아의 연구기관 '안드로이드나야 테크니카'가 개발한 마커 플랫폼에 대한 연구와 최종 테스트는 지난해 1월 완료됐다. 마커는 세계 최초의 인간에게 해를 끼칠 수 있는 완전 자율 전투 로봇으로 인간의 개입 없이 살상이 가능하다고 한다. 우리 정부도 국방혁신 4.0을 통해 국방분야에서의 인공지능(AI) 도입을 추진 중이지만 기술선진국들의 규범 경쟁 등에 대비한 제도적인 정비가 상대적으로 미비한 실정이다. 새로운 무기체계를 .. 2023. 4. 4. 이전 1 다음 반응형
