챗GPT 돌풍에 IT 업계 긴장‥규제 목소리도 두 달 만에 1억 명 '챗GPT' 돌풍…윤리 합의 시급
현재 IT 업계는 chatgpt 돌풍으로 인해 높은 수준의 긴장을 겪고 있습니다
이 폭발은 2018년 10월 1일 사회 공학적 공격에 사용된 1억 개의 메시지 폭탄입니다
그러나 트럼프 대통령이 트위터를 통해 야당과 언론을 부당하게 공격하고 이에 지지자들이 호응하면서 트위터는 온라인상에서 여성혐오와 인종차별, 허위정보를 증폭·재생산하는 기폭제가 됐다. 트위터가 현실 세계에 피해를 입히는 것은 드문 일이 아닙니다. 예를 들어 사라 허커비 샌더스 백악관 대변인을 축출한 레스토랑 레드 헨은 트럼프가 트윗한 후 공화당 지지자들의 표적이 되었습니다. 같은 이름의 또 다른 지역 Red Hen 레스토랑도 파손되었습니다.
chatgpt 폭발의 잠재적 영향을 완화하기 위해 규제 목소리가 시급히 요구되고 있습니다
하지만 IT 종사자들이 기업의 사회적 책임에 대해 고민하고 모든 문제를 비판할 것이라고 기대하기는 이르다는 지적도 나왔다. 특히 트럼프 대통령이 사용하는 소셜미디어 서비스인 트위터는 대통령의 마케팅 효과에 도취돼 여론 형성 플랫폼 역할을 소홀히 한다는 비판을 받아왔다. 뉴욕타임스는 며칠 전 트럼프 행정부 출범 이후 미국 사회의 양극화가 심화되면서 IT 기업들이 사회적 책임에 더 많은 관심을 기울이는 것과 이윤 추구 중 하나를 선택해야 할 것이라고 보도했다.
다가오는 EU AI 법 및 AI 책임법은 기업이 AI로 인한 피해를 완화하기 위해 취한 조치를 문서화하도록 요구합니다. 뉴욕과 캘리포니아의 국회의원들은 상당한 영향을 미치는 지역에서 AI를 사용하기 위한 계획과 규정을 논의하고 있습니다. 10월 초 백악관은 자동화 시스템과 관련하여 미국 시민이 갖는 5가지 권리를 포함하는 AI 권리 장전을 공개했습니다. 이 법안은 연방 기관이 AI 알고리즘과 회사에 대한 조사를 확대할 수 있는 권한을 부여합니다.
또 다른 문제는 AI 연구 속도가 너무 빠르다는 점이다. 수많은 기술 혁신이 빠르게 쏟아지고 있습니다. 지난 1년 사이에도 텍스트에서 이미지를 생성하는 AI 알고리즘이 공개되었고 불과 일주일 후에는 텍스트에서 이미지를 생성하는 훨씬 더 극적인 기술이 발표되었습니다. 이것은 매우 인상적인 기술 발전이지만 새로운 기술의 잠재적 피해가 나중에 큰 문제를 일으킬 수 있다는 우려가 있습니다. 예를 들어, 텍스트를 이미지로 변환하는 AI는 저작권을 침해할 수 있으며 유해한 콘텐츠가 포함된 데이터에 대해 교육을 받으면 의도하지 않은 위험한 결과를 초래할 수 있습니다.
IT 업계 직원들은 chatgpt 폭발로 인한 잠재적인 보안 위험으로 인해 스트레스를 받고 있습니다
최근 글로벌 경제가 불안정한 상황에서 많은 기업들이 채용을 동결하고 직원을 대규모로 해고했습니다. 그러나 책임 있는 AI 팀의 중요성은 그 어느 때보다 중요합니다. 위험하거나 불법적인 AI 시스템을 공개하는 회사는 벌금을 물거나 알고리즘을 제거해야 합니다. 예를 들어, 지난 봄, 미국 연방 무역 위원회는 체중 관리 서비스인 Weight Watchers가 어린이의 개인 데이터를 불법적으로 수집한 것으로 밝혀진 후 알고리즘을 폐기하라고 명령했습니다. AI 알고리즘을 개발하고 데이터베이스를 축적하는 것은 기업의 주요 투자이므로 규제 기관에서 명령을 내리면 막대한 타격을 입을 수밖에 없습니다.
Maven은 드론이 캡처한 모션 쉐이핑 데이터를 분석하여 물체를 식별하는 맞춤형 AI 감시 엔진입니다. 직원들은 이 기술이 군대의 정밀 타격 능력을 향상시키는 데 사용될 수 있다고 의심합니다. 이는 군이 메이븐을 이용해 테러 용의자나 테러 관련 시설을 파악한 뒤 미사일 버튼을 누르는 것을 의미한다. 일부 직원은 해고를 요구하고 사표를 낼 정도로 반발이 거셌다. 프로젝트 메이븐을 책임지고 있는 구글 클라우드 CEO 다이앤 그린은 "메이븐은 구글에게 나쁜 사업"이라며 직원들이 반대한다면 다시는 메이븐을 추구하지 않겠다고 말했다.
직원들은 위험을 완화할 수 있는 윤리적 계약에 서명하도록 권장되고 있습니다
최근 IT 직원이 제기한 한 가지 예는 전자 상거래 회사인 Amazon입니다. 아마존 직원들은 얼굴 인식 기술인 '레코그니션'이 인권을 침해할 수 있다며 정부 기관에 레코그니션을 판매하지 말 것을 회사에 요청했다. 2016년 Amazon이 출시한 기술인 Rekognition은 용의자의 사진과 데이터베이스에 저장된 사진을 비교하여 동일인인지 확인할 수 있습니다. 플로리다주 올랜도와 오리건주 워싱턴 카운티의 보안관들은 이 기술을 사용하기 위해 아마존과 계약을 맺었습니다.
Mitchell과 비슷한 경험을 한 사람들이 셀 수 없이 많습니다. 현재 그녀는 AI 스타트업 Hugging Face에서 수석 윤리 과학자 및 AI 연구원으로 일하고 있습니다. Boston Consulting Group의 Responsible AI 분야 컨설턴트이자 Montreal Institute for AI Ethics 설립자인 Abhishek Gupta에 따르면 이 "Responsible AI" 분야에서 번아웃을 경험하는 사람들의 수가 계속해서 증가하고 있습니다.
구글은 지난해 AI 윤리를 연구하는 연구원 수를 두 배로 늘리겠다고 발표했다. 그러나 이후에 일어난 일은 알려지지 않았습니다. 구글은 본지와의 인터뷰에서 현재 직원들에게 정신건강 회복탄력성 훈련은 물론 일대일 정신건강 상담 프로그램과 직원들이 스스로 할 수 있는 마음챙김 프로그램을 제공하고 있다고 밝혔다. 또한 비디오 또는 이메일을 통한 정신 건강 상담이 지원됩니다. Google은 Mitchell의 과거 경험에 대한 질문에 응답하지 않았습니다.