SPRi - 소프트웨어정책연구소

컴퓨팅 전문가 윤리 강령의 최신 개정과 주요 변화

김정민AI정책연구실 선임연구원

2019.05.22

21370

글자크기

- ACM이 2018년 6월 공표한 컴퓨팅 전문가 윤리 강령은 강령이 처음 공표된 이래 26년 만의 개정이다. 개정 내용은 데이터 권한, 오픈소스, 기계 학습, 보안, 레거시 시스템 대책 등 최신 컴퓨팅 환경에서 발생할 가능성이 있는 윤리 이슈를 다루고 있다. 인공지능의 발달 등으로 컴퓨팅 분야의 윤리 문제는 향후 중요성이 더욱더 부각될 것으로 전망되므로, 미래를 준비하는 차원에서 이 문제에 더 큰 관심을 기울여야 한다.
컴퓨팅 분야에 윤리적 가치가 강조되는 시대
- 2019년 2월, 영국 의회는 페이스북의 정치적 영향력 확대와 개인정보 데이터 무단 유출 문제를 다룬 의회보고서를 제출하였다.1 영국 의회는 보고서를 통해 페이스북과 같은 기업이 온라인 세계에서 ‘디지털 갱스터(Digital Gangsters)’가 되어서는 안 되며, 이는 법을 통한 통제가 아닌 기업 스스로의 윤리 의식을 갖추어야 해결되는 문제라 진단하였다. 보고서는 같은 맥락에서 윤리 강령을 준수하지 않는 회사에 벌점을 부여하는 “의무적 윤리 강령”의 필요성을 제기하였다.
- 한편 2019년 1월 미국 하버드 대학은 컴퓨터 과학 전공 과정에 윤리를 다루는 교과를 정규과목으로 편성하였다.2 이는 “Embedded EthiCS”란 컴퓨터 과학과 철학이 융합된 강의로, 한 강의에 두 명의 교수3가 편성되어 소프트웨어로 인해 발생 가능한 윤리 문제에 대해 논의하는 방식으로 진행된다. 최초 시범 교과가 개설된 2015년 이래 수강생에게 꾸준한 인기를 얻고 있어, 해당 교과목을 미국 전체 대학으로 확대하려는 노력이 진행되고 있다. 윤리 문제가 컴퓨팅 분야에 주요한 이슈가 되어 가고 있음을 보여 준다.
- 이러한 추세는 컴퓨팅 분야 종사자의 윤리 의식이 점점 더 중요한 가치가 되고 있음을 증명하고 있다. 이 시점에서 우리는 현존하는 컴퓨팅 분야의 윤리 강령들이 어떠한 윤리적 가치를 강조하고 있는지 살펴볼 필요가 있으며, 이를 위해 가장 최근 개정된 ACM의 윤리 강령을 중심으로 과거와 현재의 차이점을 알아본다.

ACM 컴퓨팅 전문가 윤리 강령(Code of Ethics)

컴퓨팅 분야를 대표하는 글로벌 협회인 Association for Computing Machinery(이하, ACM)에서는 2018년 6월 컴퓨팅 기술을 사용하는 모든 사람들의 윤리적 행동을 유도하기 위한 컴퓨팅 전문가 윤리 강령의 첫 번째 개정판을 발표하였다. 이 개정은 1992년 강령이 처음 발표된 이래 26년 만에 이루어진 것으로, 컴퓨팅 분야에 종사하는 전문가들의 주목을 받았다.
이 윤리 강령은 컴퓨팅 전문가의 행동에 윤리적 기본 원칙이 어떻게 적용되는지에 대해 다루고 있다. 본문은 수록된 조항들이 모든 컴퓨팅 분야의 윤리 문제를 해결할 수는 없겠지만, 윤리적 의사 결정의 기초가 되는 우선적 고려사항으로 활용될 수 있음을 강조하고 있다.
내용을 살펴보면 크게 기본 윤리 원칙(Fundamental Ethical Principles), 전문직으로서의 책임(Professional Responsibilities), 전문 리더십의 원칙(Professional Leadership Principles)으로 구성되어 있다. 각각의 주제는 사회, 전문가, 조직 관점의 윤리를 포괄한다.

표 1 2018년 컴퓨팅 전문가 윤리 강령 내용 및 변경 수준

<표 1> 2018년 컴퓨팅 전문가 윤리 강령 내용 및 변경 수준
	내 용	변경 수준주)
1. 일반적인 윤리 원칙	1.1. 모든 사람들이 컴퓨팅의 이해관계자임을 인정하면서 사회와 인간 복지에 기여해야 한다	중
	1.2. 해로움을 지양해야 한다	중
	1.3. 정직하고 신뢰할 수 있어야 한다	하
	1.4. 공정·공평함을 위해 차별하지 말라	중
	1.5. 새로운 아이디어, 발명품, 창작물 및 컴퓨팅을 통한 업적을 생산하는 데 필요한 작업을 존중하라	상
	1.6. 프라이버시를 존중하라	상
	1.7. 기밀 유지	중
2. 전문직으로서의 책임	2.1. 전문적인 작업 과정 및 제품 모두에서 높은 품질 달성을 위해 노력하라	하
	2.2. 높은 수준의 전문 역량, 행동 및 윤리적 실천을 유지하라	중
	2.3. 전문 직업과 관련된 기존 규칙을 인지하고 존중하라	하
	2.4. 적절한 전문가의 검토를 수용하고 스스로 제공하라	중
	2.5. 실현 가능한 위험 분석을 포함, 컴퓨터 시스템과 그 영향에 대한 포괄적이고 철저한 평가를 하라	중
	2.6. 능력을 갖춘 영역에서만 작업을 수행하라	중
	2.7. 컴퓨팅 관련 기술 및 결과물에 대한 대중의 인식과 이해를 증진시키기 위해 노력하라	하
	2.8. 권한이 부여되거나 공공의 이익을 얻은 경우에만 컴퓨팅 및 통신 자원에 접근하라	중
	2.9. 강력하고 유용성이 보장되는 시스템을 설계하고 구현하라	신규
3. 전문 리더십의 원칙	3.1. 모든 전문적인 컴퓨팅 작업에서 공공재 가능성을 확인하라	신규
	3.2. 조직 또는 그룹의 구성원이 사회적 책임 이행을 명확히 하고 이를 수락하는지 평가하라	하
	3.3. 근로자의 삶의 질을 향상시키기 위한 인력 및 자원을 관리하라	하
	3.4. 윤리 강령의 원칙을 반영하는 정책과 프로세스를 명확화하고 이를 적용하며 지원하라	신규
	3.5. 조직 또는 그룹 구성원이 전문가로 성장할 수 있는 기회를 제공하라	중
	3.6. 시스템을 수정하거나 폐기할 시 주의하라	신규
	3.7. 사회 기반 시설에 통합된 시스템에 대해 특별한 주의를 기울여라	상

※ 출처 : ACM Code of ethics(1992, 2018) 인용 후 재구성
※ 주 : 1992년 대비 2018년 개정판의 세부 내용 변경 수준을 상, 중, 하, 신규로 구분
(1) 상 : 세부 내용의 변경 수준이 크거나 새로운 단락이 생성된 경우
(2) 중 : 세부 내용의 변경 수준이 크지는 않으나, 유의미한 변화가 식별될 경우
(3) 하 : 세부 내용의 변경 수준이 적은 경우
(4) 신규 : 기존 대비 신규 생성된 조항인 경우

개정판에 두드러지게 나타난 첫 번째 변화는 ‘공익’에 대한 강조이다. 이 강령은 컴퓨팅 전문가의 최종 의사결정과정에서 윤리 강령과 공익의 가치를 최우선적으로 고려해야 함을 강조하고 있다.4 여기에서 공익이란 저작물의 오픈소스화를 통한 소프트웨어 공공재 활성화, 그리고 컴퓨팅 전문가의 전문 역량 기여를 통한 사회 공헌으로 구별된다.
두 번째 변화는 의뢰자와의 요구사항 관련 대응에 대한 기준을 삭제한 것이다. 기존 윤리 강령은 의뢰자와의 갈등 또는 분쟁 상황에서 결과물에 대한 책임에 대한 조항을 비중 있게 다루었으나,5 개정판에는 계약 관계에서 발생 가능한 책임 여부에 대한 윤리 기준을 삭제하였다.
세 번째 변화는 새로운 SW분야 이슈들에 따른 윤리 기준의 세분화이다. 여기에는 시스템 평가 기준을 정립할 때 별도 고려가 필요한 기술에 대한 부분이나 데이터 공개 권한 등이 포함된다.
주요 세부 변경 내용
① 능동적인 사회적 책임의 부여
기존의 다소 수동적이던 사회에 대한 책임 기준이 능동적인 책임을 요구하는 방향으로 변경되었다.
주요 변경사항으로는 일반 대중에 대한 컴퓨팅 지식 공유가 그들의 잘못된 지식을 바로잡는 차원에서가 아니라, 컴퓨팅 분야에 대한 전반적인 인식 제고를 위해 필요하다는 것을 강조한 점이다.

표 2 윤리 강령의 개정 전·후 주요 변경점(사회적 책임)

<표 2> 윤리 강령의 개정 전·후 주요 변경점(사회적 책임)
조항	개정 전	개정 후
1.1	▪ 컴퓨팅 전문가의 필수 목표는 건강, 안전에 대한 위협을 포함한 시스템의 부정적인 영향을 최소화하는 것임	▪ 개인 보안 및 개인 정보에 대한 위협을 줄이는 것이 필수 목표로 추가 ▪ 노력의 결과가 사회적 욕구를 충족시키며 광범위한 접근이 가능한지 고려
1.1	▪ 지역 또는 지구 환경에 잠재적 손상이 예견되는 경우 이에 대한 경고 및 알림의 의무를 가짐	▪ 공익에 기여할 수 있는 프로 보노(Pro Bono)6 및 자원봉사 활동 참여를 통해 사회에 적극적 기여 권장 ▪ 지역 및 전 세계적으로 지속 가능한 환경을 조성해야 함을 강조
2.7	▪ 전문가는 컴퓨팅과 관련된 잘못된 견해에 대응하기 위하여, 대중과 기술 지식을 공유할 책임이 있음	▪ 대중에 기술 지식을 공유함으로써 컴퓨팅에 대한 인식을 높이고 이해를 장려해야 함 ▪ 이를 위한 소통은 명확하고 존중되며 환영하여야 함

② 정보·데이터 윤리의 추가
컴퓨팅 환경에서 데이터의 중요성이 증대되고 있는 현 상황을 반영하기 위하여, 다수의 조항을 대상으로 일부 개정 또는 수정이 진행되었다. 주로 데이터의 관리와 공개 권한에 대한 내용으로 개인정보를 다루는 시스템에 대한 윤리적 책임을 강조하였다.
눈여겨볼 변화 중 하나는 조항 1.7(기밀 유지)이다. 기존 조항은 요구사항을 충족시키기 위해 필요한 경우를 제외한 모든 경우에 기밀 유지 의무가 적용되었으나, 개정된 내용에서는 ‘법률, 강령 등을 위반하였다는 증거가 되는 경우’엔 예외적으로 기밀을 공개할 수 있음이 명시되었다.

표 3 윤리 강령의 개정 전·후 주요 변경점(정보·데이터 윤리)

<표 3> 윤리 강령의 개정 전·후 주요 변경점(정보·데이터 윤리)
조항	개정 전	개정 후
1.2	▪ 피해(Harm)의 예 : 바람직하지 않은 정보 손실, 재산 손실, 원치 않는 환경적 영향과 같은 부정적 결과	▪ 피해의 대표적 예로 정보의 부당한 파괴 또는 공개가 추가명시됨
1.3	▪ 컴퓨터 전문가는 시스템 또는 시스템 설계에 대해 고의적으로 허위 또는 기만적인 주장을 하지 않음	▪ 고의적인 허위 또는 오해의 소지가 있는 주장, 데이터 제작 또는 위조, 뇌물 제공 또는 수락, 기타 부정한 행위는 강령 위반으로 구체적 명시함
1.6	▪ 시스템에 필요한 양의 개인정보만 수집 ▪ 시스템 정보의 보존 및 폐기 기간을 명확 하게 정의하고 시행해야 함 ▪ 특정 목적을 위해 수집된 개인 정보는 해당 정보의 동의 없이 다른 목적으로 사용되지 않아야 함	▪ (추가) 병합된 데이터셋은 병합 전 데이터셋의 개인 정보보호 기능을 손상시킬수 있으므로, 데이터 병합 시 특별히주의가 필요
1.6		▪ (추가) 컴퓨터 전문가는 개인 및 그룹의 권리를 침해하지 않고 정당한 목적으로 개인정보를 사용해야 함 ※ 예방조치 의무 : 데이터 비식별화, 허가받지 않은 데이터 수집 제한 등 ※ 전문가의 책임 : 개인 데이터 수집현황 파악 및 이해, 자동 데이터 수집에 대한 정보 동의, 개인 데이터 검토·획득·부정확성에 대한 클렌징
1.7	▪ 법률 또는 강령의 원칙에 의한 의무 이행(요구사항)에 필요한 경우를 제외, 고용주, 고객 및 사용자에 대한 기밀 유지 의무를 존중해야 함	▪ (추가) 법, 조직 규정 또는 행동 강령 위반의 증거가 되는 경우를 제외하고 기밀 유지를 보호해야 함. 다만 이런 경우의 공개가 윤리 강령과 일관성을 가지는지 신중히 고려 필요

③ 오픈소스(Open-source) 장려를 위한 윤리 보완
강령의 내용에서 공익 또는 공공재에 대해 언급된 조항들은 오픈소스와 밀접한 연관성이 있는 경우가 많다. 소프트웨어 내 모듈에 대한 오픈소스화는 컴퓨팅 전문가의 중복 개발로 인한 비효율을 줄이는 데 기여할 수 있다.
개정판은 소프트웨어 저작권에 대한 무단 복제 불허 및 지적재산 보호에 중점을 두던 기존 조항에 오픈소스를 활용하여 개발한 지적재산에 대한 소유권 주장을 불허하는 문구를 추가하였으며, 소프트웨어 개발 전 주기에서 항상 오픈소스화에 대한 고려가 필요함을 강조하였다.

표 4 윤리 강령의 개정 전·후 주요 변경점(오픈소스)

<표 4> 윤리 강령의 개정 전·후 주요 변경점(오픈소스)
조항	개정 전	개정 후
1.57	▪ 소프트웨어 사본을 활용하기 위해서는 적절한 승인을 받아야 하며 무단으로 자료를 복제하면 안 됨 ▪ 컴퓨팅 전문가는 지적재산의 무결성을 보호해야 하며, 저작물이 저작권, 특허 등에 의해 명시적 보호되지 않은 경우에도 타인의 저작물에 대한 공헌을 가져가면 안 됨	▪ (추가) 컴퓨팅 전문가는 지적 저작물을 합리적으로 사용하는 것에 부당하게 반대해서는 안 됨 ※ 예 : 무료 및 오픈소스SW, 공개 도메인에 포함된 저작물 등 ▪ (추가) 컴퓨팅 전문가는 자신이나 다른 사람들이 공공자원으로 공유한 작업에 대한 개인 소유권을 주장해서는 안 됨
2.8	▪ 허가된 경우에만 컴퓨팅 및 통신 자원에 액세스할 수 있음	▪ 권한이 부여되거나 공공의 이익을 얻은 경우에 컴퓨팅 및 통신 자원에 액세스할 수 있음 ▪ (추가) 예외적으로 악의적인 시스템의 기능을 방해하거나 금지하기 위해 권한 없는 액세스를 할 수 있음
3.1	없음	▪ (신규) 연구, 요구사항 분석, 설계 구현, 테스트, 유효성 확인, 배치, 유지보수, 퇴직 및 폐기 등 SW분야 작업을평가할 시 공익을 항상 고려해야 함

④ 기계 학습 기반 시스템의 위험 평가 기준
조항 2.5는 컴퓨터 시스템에 대한 가능한 모든 위험 분석을 철저히 평가해야 한다는 점을 강조하고 있다. 개정판에 나타난 주요 변화는 기존 내용과 더불어 기계 학습 시스템에 대해 특별한 주의를 당부하고 있다는 점이다. 강령은 특별한 주의를 기울여야 하는 시스템의 기준을 “미래의 리스크를 신뢰성 있게 예측하기 어려운 시스템”으로 정의8하고 있으며, 그 대표적인 예가 기계 학습 기반시스템이다.

표 1 윤리 강령의 개정 전·후 주요 변경점(기계 학습)

<표 1> 윤리 강령의 개정 전·후 주요 변경점(기계 학습)
조항	개정 전	개정 후
2.5	▪ 컴퓨터 전문가는 시스템 설명 및 대안을 평가, 권장 및 발표할 시 철저하고 객관적 이어야 함 ▪ 컴퓨터 전문가는 시스템에 대한 특별한 신뢰의 위치9에 있으므로 고용주, 고객, 사용자 및 대중에게 객관적이고 신뢰할 수 있는 평가를 제공해야 할 책임이 있음	▪ (추가) 기계 학습 시스템의 잠재적인 위험을 식별하고 이를 완화하기 위해 특별한 주의가 필요함 ▪ (추가) 미래의 리스크가 신뢰성 있게 예측될 수 없는 시스템은 시스템이 사용되는 와중에도 위험을 빈번히 재평가해야 함

⑤ 보안의 중요성 강조 및 직관적 설계
시스템 설계 시 강력한 수준의 보안을 장려하기 위한 강령이 추가되었다. 여기에서 눈여겨볼 점은 단순히 보안 시스템 강화 책임을 언급한 것에 그치지 않고, 보안 기능을 사용자가 직관적으로 사용 가능하도록 설계하여야 한다는 것까지 언급한 점이다.
한편 오용이나 피해가 예측 가능하거나 피할 수 없는 경우는 시스템을 구현하지 않는 것이 바람직함을 추천하고 있다. 기존 윤리 강령이 의뢰자와의 계약관계로 인해 구현이 불가피할 시, 어떻게든 대안을 모색할 책임을 전문가에게 부가했던 기존 강령의 조항과는 사뭇 다른 기조이다.

표 6 윤리 강령의 개정 전·후 주요 변경점(보안)

<표 6> 윤리 강령의 개정 전·후 주요 변경점(보안)
조항	개정 후(신규)
2.9	▪ 시스템 배포 이후 보안 위협의 가능성이 있으므로 모니터링, 패치 및 취약성 보고와 같은 보안 기술과 정책을 통합하여야 함 ▪ 데이터 유출의 영향을 받은 당사자가 적시에 명확한 방법으로 통지를 받고 적절한 지침과 개선 조치를 취하도록 가이드를 제공해야 함 ▪ 보안 기능은 가능한 한 직관적이고 사용하기 쉽도록 설계되어야 함 ▪ 오용이나 피해가 예측 가능하거나 피할 수 없는 경우 시스템을 구현하지 않는 것이 추천됨

⑥ 기타 : 레거시 시스템(Legacy System)10 및 사회 기반 시설에 대한 신규 조항
컴퓨터 시스템의 보편화가 오랜 기간에 걸쳐 진행됨에 따라 사회 구성원 다수가 활용하는 레거시 시스템의 처리 및 사회 기반 시설에 내재된 SW의 관리에 대한 윤리 기준 수요가 발생하였다. 개정판은 해당 부분에 관한 신규 조항을 신설하였으며, 이는 전문 리더십의 원칙에 속한다.

표 7 윤리 강령의 개정 전·후 주요 변경점(레거시 시스템)

<표 7> 윤리 강령의 개정 전·후 주요 변경점(레거시 시스템)
조항	개정 후(신규)
3.6	▪ 리더는 레거시 시스템에 대한 지원을 대체할 실행 가능한 대안을 철저히 조사하여야 한다. ▪ 시스템의 존속이 위험하다고 판단될 시, 원활한 시스템 이전(Migration)을 지원하여야 한다. ▪ 레거시 시스템을 지속적으로 사용하는 것의 위험성을 사용자에게 알려야 한다.
3.7	▪ 조직과 그룹이 사회 기반 시설의 주요 시스템을 개발할 때, 리더는 시스템의 감시 의무가 있음 ▪ 리더는 위 시스템에 대해 공정한 시스템 접근권한을 위한 정책을 수립하여야 하며, 시스템이 사회 인프라를 통합하는 수준을 모니터링해야 한다.

시사점
- 윤리 강령은 조직의 내부 구성원이 기본적으로 지향해야 할 가치를 담은 지침11이다. 강령은 다양한 분야에서 특정 행위에 대한 표준화되고 구체화된 기준과 절차를 정하기 전에 고려할 수 있는 최소한의 도덕적 기준으로서 작동될 수 있다. 소프트웨어 관련 윤리 강령은 대체적으로 관련 협회 또는 대학, 예를 들면 IEEE,12 ACM와 같은 컴퓨팅 협회와 서두에 언급한 하버드 대학 등에서 연구되고 있다.
- 현 시점에서 국내 대다수의 소프트웨어 관련 기관은 윤리 강령을 별도 언급하지 않거나 해외의 강령을 그대로 번역하여 게시하고 있다.13 그러나 윤리 강령의 채택 여하와 관계없이 윤리 교육 또는 홍보가 부족해 공식 웹 페이지에서 찾아보기 전에는 존재 유무조차 알기 어려운 게 현실이다. 흥미로운 점은 오히려 IT기업들을 중심으로 인공지능 시스템에 대한 윤리 규범 또는 헌장이 발표되고 있다는 점이다.14 시작이 누가 되었든 국내 차원의 윤리 강령 제정에 관한 공감대는 갈수록 커질 것으로 전망된다.
- 제4차 산업혁명의 필수 요소로서 소프트웨어가 거론되는 요즘, 우리는 어디서나 접할 수 있는 소프트웨어에 대한 관리와 윤리 의식에 대해 재고해 볼 필요가 있다. 특히, 소프트웨어 인력 및 융합인재 양성이 중요해지는 현 시점에서 그들의 기본적 행동과 의사결정에 도움이 될 수 있는 특별한 지침이 존재한다면, 빈번히 발생하는 윤리적 쟁점에 대한 원만한 합의를 이끌어 내는 데 도움이 될 것이다.
- 1 CBS News, “facebook misled parliament on data misuse uk committee says”, 2019.2.
- 2 https://news.harvard.edu/gazette/story/2019/01/harvard-works-to-embed-ethics-in-computer-sciencecurriculum/
- 3 해당 강의는 컴퓨터 과학 및 철학 교수가 함께 진행
- 4본문의 “Questions related to these kinds of issues can best be answered by thoughtful consideration of the fundamental ethical principles, understanding that the public good is the paramount consideration.”에서 public good에 대한 언급이 개정을 통해 추가된 부분임
- 5기존 윤리 강령 조항 2.6의 “performing assignments” against one’s own judgment “does not relieve the professional of responsibility for any negative consequences” 부분 등이 논란의 여지가 있음
- 6변호사를 선임할 여유가 없는 개인 혹은 단체에 대해 보수를 받지 않고 법률 서비스를 제공하는 것을 의미(Wikipedia)
- 7기존 강령의 경우, 두 가지 조항(저작권 및 특허권을 포함한 재산권의 존중, 지적재산에 대한 적절한 기여)으로 구성되어 있었으나 개정과정에서 하나로 통일됨
- 8조항 2.5 내용 중 “A system for which future risks cannot be reliably predicted requires frequent reassessment of risk as the system evolves in use, or it should not be deployed.”가 해당 부분임
- 9특별한 신뢰의 위치란, 컴퓨팅 전문가가 개발한 시스템이 일반인이 해석하기 어려운 전문 영역으로서, 전문가의 평가에 대한 대중의 맹목적 신뢰가 높을 수밖에 없는 구조적인 점을 의미하는 것으로 추정
- 10 레거시 시스템(Legacy System)은 낡은 기술이나 방법론, 컴퓨터 시스템, 소프트웨어 등을 말한다. 이는 현대까지도 남아 쓰이는 기술을 부르는 말일 수도 있지만, 더 이상 쓰이지 않더라도 현대의 기술에 영향을 주는 경우도 포함한다(위키백과).
- 11 청솔종합사회복지관의 정의를 인용
- 12Institute of Electrical and Electronics Engineers의 약어로 전기전자공학 전문가들의 국제 조직이다. ACM과 더불어 관련 분야를 대표하는 조직으로 전기공학, 전자공학, 컴퓨터과학자가 속해 있다.
- 13윤리 강령을 채택하고 있는 국내 학회는 대표적으로 소프트웨어 공학 소사이어티가 있으며, 이들은 ACM/IEEE가 2016년에 발표한 소프트웨어 엔지니어링 윤리 강령을 번역하여 활용하고 있음, http://sigsoft.or.kr/
- 14카카오 ‘알고리즘 윤리 헌장’, 마이크로소프트 ‘인공지능 윤리 디자인 가이드’ 등