스탠퍼드대학교 인간중심 인공지능 연구소(HAI)가 지난 4월 7일 'AI Index 2025' 보고서를 발간했다. 이번 보고서는 2017년부터 발간되어 올해 8번째로, 현재 글로벌 AI 현황에 대한 종합적인 관점의 브리핑을 제공한다. 소프트웨어정책연구소에서는 이 보고서의 주요 내용을 분석‧요약하고 우리의 전략적 대응을 제안하고자 한다. AI 연구개발 경쟁은 매년 더욱 치열해지고 있으며, 선두 주자인 미국과의 경쟁에서 중국의 약진이 두드러진다. AI의 성능은 매년 급격하게 증가하여 이를 측정하기 위한 새로운 벤치마크들이 등장했다. 고성능 모델들은 모델 간 성능 격차가 줄어들어 상향 평준화 되었다. 또한, AI의 활용 확산은 과학과 의료계의 발전을 이끌고 있으며, AI의 활용이 확산됨에 따라 책임있는 AI를 위한 다양한 노력들도 추진되고 있다. 이에 따라 각국에서는 AI에 관련한 규제 법률을 늘리고 있는 추세이다. AI 분야의 `24년의 글로벌 투자 수준은 경기침체로 인해 감소세였던 지난 `22~23년과 달리 크게 증가하였다. 세계적으로 AI 및 CS교육이 빠르게 확산하고 있어 AI 전문가 배출도 가속화되고 있다. AI에 대한 여론은 낙관적인 전망이 증가하고 있는 가운데, 공정성에 대한 신뢰도는 감소하는 양상을 보였다. Executive Summary The Stanford Institute for Human-Centered Artificial Intelligence(HAI) released the 'AI Index 2025' report on April 7th. This report that published since 2017, is the 8th this year and provides a comprehensive perspective briefing on the current global AI situation. The SPRi analyzes and summarizes the main contents of this report and proposes our strategic response. The competition in AI research and development is becoming more intense every year, and China's advances are notable in its competition with the United States, the leader. The performance of AI has increased rapidly every year, and new benchmarks have emerged to measure it. High-performance models have become more standardized as the performance gap between models has narrowed. In addition, the spread of AI utilization is leading to the development of science and medicine, and various efforts for responsible AI are also being promoted as the use of AI spreads. Accordingly, each country is increasing regulatory laws related to AI. The level of global investment in the AI ​​field in 2024 has increased significantly, unlike 2022-2023, when it was decreasing due to the economic recession. As AI and CS education are rapidly spreading worldwide, the production of AI experts is also accelerating. While public opinion on AI is showing an increasing optimism, trust in fairness is showing a decreasing trend.

최근 몇 년간 인공지능(AI) 기술의 발전은 챗GPT의 출시 이후 거대 언어 모델(LLM) 개발 경쟁을 거치며 가속화되었다. 현재 공개된 AI 모델들의 성능은 특정 분야에서는 이미 인간의 능력을 뛰어넘었고, 이에 따라 활용 범위 또한 급격히 확장되었다. 특히 생성 AI를 기반으로 하는 범용 AI는 제조, 의료, 금융, 교육 등의 여러 산업 분야에서 활용되고 있다. 하지만, AI 기반의 서비스들이 다양한 이점을 제공하는 한편, 고성능 AI에 대한 접근성의 향상으로 인해 새로운 위험에 대한 우려 또한 증가했다. 이에 따라, 기존 AI 신뢰성, 책임성, 윤리 등의 논의와 더불어, ‘AI 안전’이 더욱 중요해졌다. 악의적인 사용, 오작동과 같은 위험들이 실제 피해까지 야기하고 있는 만큼, AI의 안전 확보를 위한 대응책 마련이 시급해진 상황이다. 앞으로 등장할 더 강력한 성능을 가진 프론티어 AI 모델은 의도치 않은 결과의 도출, 제어 불가, 사회적 악영향 등 여러 잠재적인 위험을 포함할 가능성이 높아, 규제와 지침 마련을 비롯하여 다양한 국제적 노력이 이루어지고 있다. 각 국의 정부, 기업 등 이해관계자들은 AI의 안전성을 확보하기 위해, 위험을 식별하여 평가 기준을 마련하고, 안전한 AI 개발 및 배포와 위험 대응책을 마련하기 위해 노력하고 있다. 최근 연구들에서는 사고 사례나 발생 가능한 시나리오에 따른 위험들을 분류하여 제시하고 있다. 하지만, 연구마다 다양한 위험 분류 체계를 제시하고 있어, 합의된 AI 안전 평가 체계를 마련하기에는 아직 더 많은 논의가 필요한 상황이다. 미국, 영국, 일본 등은 AI 시스템의 안전성 확보를 위해 AI 안전연구소를 통해 AI 안전 및 위험 연구, 위험성 평가, 안전한 AI 개발·구현을 위한 기준 마련 등의 기능을 수행 중이다. 대표적으로 AI 위험 관리 프레임워크(美), AI 안전에 관한 과학 보고서(英) 등을 통해 AI의 위험에 대한 대응 방안을 제시하고 있으며, 한국도 설립될 AI 안전연구소를 통해 AI 안전 수요에 대응할 예정이다. 본 보고서에서는 AI 안전과 관련된 개념을 정리하고, 최근 수행된 연구들이 제시하고 있는 AI 위험 유형 및 요인을 정리하여, 사례와 함께 분석함으로써 앞으로의 AI 위험 대응에 관한 정책적 시사점을 제공하고자 한다. Executive Summary Advancements in artificial intelligence (AI) technology have accelerated, particularly following the launch of ChatGPT, which has triggered a competitive race in the development of large language models (LLMs). The performance of currently available AI models has already surpassed human capabilities in certain domains, leading to a rapid expansion in their areas of application. General-purpose AI, especially those based on generative AI, is now being utilized across various industries, including manufacturing, healthcare, finance, and education. However, while AI-based services offer numerous benefits, the increased accessibility of high-performance AI has also raised concerns about new risks. As a result, alongside existing discussions on AI reliability, accountability, and ethics, "AI safety" has become an increasingly critical issue. Given that risks such as malicious use and malfunctions are already causing real harm, there is an urgent need for measures to ensure AI safety. Governments, corporations, and other stakeholders are working to ensure the safety of AI by identifying risk factors, establishing evaluation criteria, and developing measures for the safe development and deployment of AI, as well as for responding to potential risks. Recent studies have classified risk factors based on accident cases and possible scenarios. However, since each study presents different classification, further discussion is needed to establish a common AI safety evaluation framework. The United States, the United Kingdom, and Japan are addressing safety of AI through dedicated agency, which focus on AI risk research, risk assessments, and the development of standards for the safe creation and implementation of AI systems. Notable examples include the AI Risk Management Framework (USA) and the Science Report on AI Safety (UK), both of which propose strategies for addressing AI-related risks. Korea also plans to address AI safety demands through the establishment of its own AI safety institute. This report aims to organize the concepts related to AI safety, summarize the risk factors identified in recent studies, and analyze these factors along with real-world cases to offer policy implications for future AI risk response strategies.

최근 전 산업과 일상에서 AI의 활용이 폭넓게 이뤄지고 있으나, 한편으로는 AI 위험에 대한 우려 및 AI로 인한 사건 수가 증가하면서 AI 위험 대응 요구도 확대되고 있다. 이에 따라 각국 정부와 학계, 업계 등 이해당사자가 AI의 위험을 방지하고 안전하고 신뢰할 수 있는 AI를 개발 및 도입하기 위해 노력하고 있다. 본 보고서에서는 액센츄어와 스탠퍼드 대학교가 실시한 글로벌 기업의 책임 있는 AI에 대한 조치 인식 조사를 인용하여 책임 있는 AI 영역별 대응 수준을 진단하고, 주요 기업별 전담 조직 및 AI 안전 프레임워크 현황 사례를 조사하여 기업의 구체적인 책임 있는 AI에 관한 노력에 대해 살펴보았다. 액센츄어와 스탠퍼드 대학교의 조사 결과, 기업은 개인정보 보호 및 데이터 거버넌스, 신뢰성 및 보안, 투명성 및 설명 가능성, 공정성 등 책임 있는 AI의 요인별 대응을 추진하고 있으며, 개인정보 보호 및 데이터 거버넌스 측면의 대응 수준이 가장 높게 진단되었다. 그러나, AI 모델 발전에 따른 결과 설명의 어려움, 국가별 공정성의 기준에 대한 차이 등의 사유로 투명성 및 설명 가능성, 공정성 부문에 대한 향후 조치를 향상시킬 필요가 있다. 국내외 기업별 사례 조사 결과, 주요 기업들은 AI 모델의 평가와 개발·배포 여부에 대한 의사결정을 할 수 있는 전담 조직을 설립하고, 전담 조직에 의해 AI의 위험성을 정의하고 평가하는 체계를 구축하고 있다. 국내 기업은 계열사 간 컨센서스를 위한 협의체를 운영하는 특징이 있으며, 산업으로의 AI 적용을 위한 과제별 위험 요인을 분류하고 평가하는 체계를 도입하고 있다. 글로벌 조사와 유사하게, 공정성 부문은 제도적인 가이드라인 수준으로 기업의 실질적인 조치가 미흡한 상황으로 향후 개선이 필요하다. 본 보고서의 결과는 각국 정부가 AI 규제에 관한 논의와 실행을 본격화되는 가운데, 기업들이 전담 조직을 구축하고, AI 안전 프레임워크를 수립 및 준수함으로써 책임 있는 AI를 정착시키기 위해 노력하고 있음을 보여준다. 앞으로 국내외 기업들의 안전하고 책임 있는 AI 개발 및 사용을 위한 지속적인 노력이 요구된다. Executive Summary Recently, AI has been widely utilized in all industries and daily life, but on the other hand, as concerns about AI risks and the number of incidents caused by AI increase, the demand for AI risk response is also expanding. Consequently, all stakeholders, including governments, academia, and industry, are working to prevent AI risks and ensure the development and implementation of safe and trustworthy AI. This report cites a survey of global companies' awareness of responsible AI measures conducted by Accenture and Stanford University to diagnose the level of response in each area of responsible AI, and investigates case studies of dedicated organizations and frameworks in major companies to explore specific efforts towards responsible AI. According to research conducted by Accenture and Stanford University, Global survey results show that companies are pursuing responses to responsible AI factors such as privacy protection and data governance; reliability and security; transparency and explainability; and fairness. The response level in privacy protection and data governance was diagnosed as the highest. However, due to difficulties in explaining the result of advanced AI models, challenges in processing different languages, and differences in fairness standards across countries, there is a need for improved measures in transparency, explainability, and fairness in the future. As a result of the survey of domestic and global companies, major companies are establishing dedicated organizations capable of evaluating AI models and making decisions on whether to develop and distribute them, and are establishing a system to define and evaluate the risks of AI through dedicated organizations. Domestic companies are characterized by operating a consultative body for consensus among affiliates, and are introducing a system to classify and evaluate risk factors for each task for applying AI to the industry. Similar to the Accenture survey, the fairness sector is at the level of institutional guidelines, and actual measures by companies are insufficient, so it can be said that improvement is needed in the future. The results of this report show that while governments around the world are discussing and implementing AI regulations, companies are making efforts to establish responsible AI by establishing dedicated organizations and establishing and complying with frameworks. In the future, efforts will be required to develop and use safe AI technology across the entire AI ecosystem.

유럽연합(EU)의 인공지능법(AI Act)은 AI 기술의 급속한 발전과 광범위한 적용에 따른 윤리적, 법적, 사회적 영향에 대응하기 위해 마련된 최초의 포괄적인 AI 규제 법안이다. 이 법은 2024년 3월 유럽의회에서 통과된 이후 5월 유럽이사회에서 최종 승인했으며, 6개월에서 36개월 후부터 단계적으로 시행될 예정이다. EU AI 법은 AI 시스템을 위험 수준에 따라 분류하는 것이 주요 특징이며, 이 보고서는 AI의 분류의 정의 및 예시와 이에 따르는 의무 사항들을 정리한다. '수용 불가 위험 AI 시스템'은 인간의 존엄성, 자유, 평등, 차별금지, 민주주의 및 법치와 같은 EU의 기본 가치를 위반하는 경우 사용이 전면 금지된다. '고위험 AI 시스템'은 생체인식, 중요 인프라, 교육, 필수 서비스 등 사회적으로 민감한 분야에 사용될 때 높은 수준의 규제를 받게 되며, '제한된 위험성을 갖는 AI 시스템'은 비교적 낮은 위험을 가지고 있지만, 사용자와의 상호작용 과정에서 일정한 투명성이 요구된다. 마지막으로, '저위험 AI 시스템'은 일상적인 상업적 또는 개인적 용도로 사용되며, 비교적 낮은 위험성을 지녀 규제 부담이 최소화된다. 이 법안은 AI 정책 표준을 설정하고, 기업들의 AI 개발 방식을 변화시키며, 윤리적이고 책임 있는 AI 발전에 영향을 미칠 것으로 예상된다. EU의 규제는 종종 글로벌 표준이 되는 경향이 있어, AI 법이 전 세계 AI 정책에 미칠 영향이 클 것이다. 기업 차원에서는, EU 내에 법인이나 사무소를 두고 있지 않은 기업도 EU에서 AI 시스템이 이용될 경우 이 법 규제사항을 적용을 받게 되며, 공급자뿐만 아니라 배포자, 수입업자, 유통업자에게도 의무가 부과되어 광범위한 기업에 영향을 미칠 것으로 예상되어 면밀한 검토와 대비책이 필요할 것이다. Executive Summary The European Union (EU) Artificial Intelligence Act is the first comprehensive AI regulatory bill designed to address the ethical, legal, and social impacts resulting from the rapid development and widespread application of AI technologies. Passed by the European Parliament in March 2024 and subsequently approved by the European Council in May 2024, the Act is set to be implemented in stages, starting between six and thirty-six months from its approval. A key feature of the EU AI Act is the classification of AI systems based on their risk levels. This report outlines the definitions and examples of these classifications, along with the corresponding obligations. AI systems that pose an "unacceptable risk" are banned entirely if they violate fundamental EU values such as human dignity, freedom, equality, non-discrimination, democracy, and the rule of law. "high-risk AI systems" are subject to stringent regulations when used in socially sensitive areas such as biometric identification, critical infrastructure, education, and essential services. "limited-risk AI systems" carry relatively lower risk but require a certain level of transparency in their interaction with users. Finally, "low-risk AI systems" are used for everyday commercial or personal purposes, involve minimal regulatory burden, and are considered to have relatively low risk. This Act is expected to set AI policy standards, alter corporate AI development practices, and influence the ethical and responsible advancement of AI. The EU's regulations often become global benchmarks, meaning the AI Act could significantly impact AI policies worldwide. For corporations, even those without a physical presence in the EU, compliance with these regulations will be necessary if their AI systems are used within the EU. Obligations are not only imposed on providers but also on distributors, importers, and other entities, necessitating thorough review and proactive measures by a wide range of businesses.

생성AI의 확산과 함께 인공지능 기술이 가진 잠재적 위험에 대한 우려가 고조되고 있다. 생성AI의 부정확성, 결과 해석을 어렵게 하는 블랙박스 모델과 같은 기술적 한계와 딥페이크, 사이버 공격 등 기술 오용으로 인한 사회적 피해에 대한 긴장이 높아지고 있다. 산학계의 인공지능 전문가들조차 인공지능이 인간이 이해할 수 없는 초지능으로 급속히 발전하면 자율 성장, 통제 상실 가능성이 높아져 인류의 실존을 위협할 수 있다고 경고한다. 이러한 상황에서 유럽연합은 2024년 5월 세계 최초로 인공지능 규제법인 인공지능법을 제정하였고, 미국은 2023년 10월 행정명령을 발동해 인공지능의 안전한 개발과 보급을 유도하고 있다. 2023년 11월 영국에서 세계 최초로 개최된 인공지능 안전성 정상회의는 인공지능 안전성 확보를 위한 국제 사회의 동참을 만들어 내는 계기가 되었다. 구체적으로 영국, 미국, 일본은 AI안전연구소를 설립하고, 첨단 AI의 안전성 테스트를 위한 프레임워크 개발과 정보, 인력 교류, 표준화에 상호 협력하기로 했다. 2024년 5월 제1차 인공지능 안전성 정상회의 후속으로 진행된 한국-영국 공동 주최 AI 서울 정상회의에서는 우리 정부도 AI 안전연구소 설립을 공식화하고 주요국과 함께 AI 안전성 확보를 위한 국제협력에 적극적 의지를 표명하였다. 향후 AI 안전 확보를 위한 정부의 역할이 더욱 중요해질 것으로 예상되는 가운데, AI 안전연구소는 AI 안전성 테스트 방법 및 프레임워크 개발, AI 안전성 확보를 위한 원천기술 개발 및 표준화, 그리고 이를 위한 정책연구와 민관협력, 국제 교류를 추진해 나갈 것으로 예상된다. 민간의 혁신을 저해하지 않고 사회와 산업에 안전한 인공지능을 도입·활용을 위해 AI안전연구소의 기능과 역할 정립이 요구되는 시점으로, 이 보고서에서는 영국, 미국, 일본 등 주요국의 AI안전연구소의 추진 동향을 살펴보고 국내 AI안전연구소의 역할을 모색한다. Executive Summary With the proliferation of generative AI, concerns about the potential risks of artificial intelligence technologies are mounting. The technical limitations of generative AI, such as hallucinations and black-box models that complicate result interpretation, along with the societal harm caused by the misuse of technologies like deepfakes and cyberattacks, are increasing tensions. AI experts in academia and industry warn that rapid advancements toward superintelligent AI, which humans cannot comprehend, may lead to autonomous growth and loss of control, potentially threatening human existence.In response to these concerns, the European Union enacted the world's first AI regulatory law, the Artificial Intelligence Act, in May 2024. Meanwhile, the United States issued an executive order in October 2023 to guide the safe development and dissemination of AI. The first AI Safety Summit, held in the UK in November 2023, marked a pivotal moment, fostering international collaboration to ensure AI safety. Specifically, the UK, the US, and Japan have agreed to establish AI Safety Institutes, develop frameworks for testing advanced AI safety, and cooperate on information exchange, personnel training, and standardization. Following the first AI Safety Summit in May 2024, the AI Seoul Summit, co-hosted by Korea and the UK, saw Korea committing to establishing an AI Safety Institute and expressing a strong intention to participate in international cooperation for AI safety with other major countries. As the role of the government in ensuring AI safety becomes increasingly important, the AI Safety Institute will focus on developing AI safety testing methods and frameworks, creating foundational technologies for AI safety, and promoting standardization. This will include policy research, private sector collaboration, and international exchanges. To introduce and utilize AI safely in society and industry without hindering private innovation, it is essential to define the functions and roles of the AI Safety Institute. This report examines the trends and initiatives of AI Safety Institutes in key countries, including the UK, the US, and Japan, and explores the potential roles of the Korean AI Safety Institute.

요약문 1. 제 목 : 국내 AI 창업기업 비즈니스 현황 분석 2. 연구 목적 및 필요성 우리나라는 AI 산업 육성을 위한 국가 전략과 입법을 꾸준히 추진해왔다. 예를 들어, 2023년 1월 발표된 「인공지능 일상화 및 산업 고도화 계획」(관계부처 합동)은 AI 소프트웨어와 하드웨어의 초격차 실현을 위한 기술 연구개발, 법 제도 및 규제 정비를 비롯해, AI 기업 성장을 위한 데이터 및 해외 진출 등의 내용을 담고 있다. 이를 통해, 2027년 3대 AI 기술 강국 도약, AI 전문기업 1천 개 육성 등의 정량적인 목표도 제시하였다. 이러한 국가정책을 바탕으로 지금, 이 순간에도 국내 다수의 창업기업이 AI 기술을 활용하여 새로운 비즈니스를 창출하고 있으나, 세계적인 경기 침체를 비롯한 여러 가지 애로사항으로 인해 사업을 영위하기에 어려운 상황에 직면해 있다. 예를 들어, 학습용 데이터나 AI 반도체 등 AI 인프라 구축의 어려움, AI 인재 확보의 한계, 해외 언어 및 이종 문화 문제를 비롯한 판로 개척의 난항으로 인한 글로벌화의 한계 등으로 인해 AI 창업 투자 생태계 강화를 위해서는 국내 창업·투자 생태계 연구가 중요한 상황으로 꼽히고 있다. 이에, 본 연구에서는 국내외 선행연구를 통해 AI 창업기업을 정의하고, AI 창업기업의 비즈니스 현황을 분석하고, 주요 우수사례를 발굴하고, 주요 창업기업을 대상으로 심층 인터뷰하여 기업이 직면한 현황, 제품 및 서비스 개발 현황을 파악하고, 정부의 정책 지원이 필요한 분야 등 AI 산업 생태계를 육성하고, AI 창업지원을 위한 정책 기초자료를 파악하고자 한다. 이를 통해, 국내 AI 창업·투자 생태계를 파악하면서 해외 주요국과 비교할 수 있는 시장현황 통계를 생산함으로써, 세계적 수준의 AI 창업기업 육성을 위한 정책의 기초자료 마련을 목표로 한다. 빠르게 변화하는 AI 시장과 창업·투자 생태계 특성상 조사 시간이 많이 요구되는 실태조사 대비, 유관 DB를 기반으로 신속하게 현황을 파악하고 국내·외 현황 비교를 위한 대안적 조사 연구로써 데이터 기반의 분석을 수행하였다. 3. 연구의 구성 및 범위 본 연구는 크게 세 가지 세부 과업으로 구성되어 있다. 첫 번째는 AI 창업기업 정의, 조사 및 분석이며, 두 번째는 AI 창업기업 비즈니스 현황 조사이고, 셋째는 AI 기업 사례 및 기업·기관 심층 조사에 관한 내용이다. 먼저 AI 창업기업 정의, 조사 및 분석에서는 AI 창업기업 정의에 대한 선행 조사를 기반으로 하여 창업기업을 정의하고, AI 창업기업 기준을 설정하였다. 이어, 정의된 AI 창업기업 기준에 맞게 창업기업 명부를 정리하고, 조사항목을 도출하여 VC 투자 정보 데이터베이스 및 웹 자료로부터 AI 창업기업 전반에 대한 투자 및 매출 현황, 정부 지원사업 추진 현황, 해외 진출 현황, 특허 등 지식재산권 보유현황 등을 조사하고, 이러한 요인들과 기업의 투자 및 매출과의 상관관계 분석을 위한 통계 분석 등을 수행하였다. 마지막으로, AI 창업기업에서 주요한 모범사례들이나 특징적인 기업을 선정하여 심층적으로 사례분석을 수행함과 동시에 AI 기업과 기관 심층 조사에서는 창업기업 투자나 정책지원기관, AI 창업기업을 대상에 대해 인터뷰하였다. 4. 연구 내용 및 결과 선행 문헌과 선행 연구에 기반하여, AI 분야 창업기업의 정의와 분류 기준을 마련하였다. 즉, 업력 7년 이내 기업으로, AI 기술을 통해 제품, 서비스, 플랫폼의 생산, 유통, 활용, 부가서비스, 조사, 분석, 컨설팅, 중개 등의 과정을 통해 가치를 창출하는 기업으로 정의하여 이 기준에 맞게 국내 VC 투자 데이터베이스인 더브이씨 DB에서 377개의 AI 창업기업을 포함, 총 513개 기업을 대상으로 투자, 수상 이력, 해외 진출, 제품 서비스, 지식재산권 확보 현황 등을 도출하였다. 주요 분석 결과는 다음과 같다. [국내 AI 분야 VC 투자 주요 결과] [국내 생성형 AI 분야 VC 투자 주요 결과] AI 창업기업을 대상으로 한 사례분석을 수행한 결과, 일부 AI 창업기업의 경쟁 우위와 이익창출력 측면의 취약성에 의해 지속성장의 어려움이 예측되었다. 이를 위해서는 기술과 서비스 개발을 위한 R&D 지원, 학습데이터 및 인프라 구축, 전문인력 지원의 필요성이 있었다. 기업과 기관 심층 인터뷰 결과, 최근 AI 스타트업의 대표적인 어려움으로는 높은 AI 모델의 개발 비용과 개발 데이터 확보의 어려움 및 AI 효과에 대한 투자자의 의문 등으로 초기 투자의 기피 요인이 발생하고 있다. 또한, 스타트업은 해외 시장 진출 경험 부족에 따른 Global standard 부재와 언어, 지역, 문화, 비용 등에 대한 정보 부족의 어려움을 호소하고 있다. 이에, 대기업의 자본과 창업기업의 능동적인 구조를 활용한 협업 체계를 마련하고, 대기업 벤처캐피탈 설립을 통한 오픈이노베이션 프로그램 활용이 적극적으로 필요하다고 할 수 있다. 초격차 기술을 가진 기업을 대상으로 빠른 상장을 지원하기 위해 과기정통부에서 추진하는 초격차 기술특례 상장 제도의 빠른 정착과 함께, AI 초격차 기술을 가진 기업에 경제적 지원을 할 AI 전용 펀드 결성을 통해 AI 산업 생태계 마련 및 지속성을 유지하면서도 장기적 관점에서 AI 전문인력 양성 방안 모색이 필요하다. 또한, 선제적 차원의 정부 공공 데이터를 기반으로 한 AI 기술 도입이 필요한 상황이다. 5. 정책적 활용 내용 본 연구과제의 주요 정책적 시사점은 다음과 같다. 스타트업 대상의 투자를 촉진하기 위해서는 높은 투자금을 받는 우수 스타트업을 육성하고, 대기업과의 투자 및 연구협력을 통해 기업의 내실을 키우도록 지원하는 것이 중요 정부 중심의 투자 시 좀비 스타트업을 양성하지 않도록 스타트업의 좋은 제품을 선별하여 정부가 구매하고 인증을 하는 방법이나, 공공 데이터 개방을 촉진하는 등 다른 방법의 정부 투자가 필요 해외 진출 기업과 투자자 간의 지속적인 네트워킹과 경험 교환의 장 마련 글로벌 협력을 위해 아프리카나 동남아시아 등 신흥국 ODA 사업과 연계한 글로벌 AI 활용 촉진, 국내 AI 기업 해외 영업 레퍼런스 확보 가능성 검증 기업가 정신의 함양: 교육과정으로서의 기업가 정신이 아닌, 타트업 CEO의 성공과 실패 경험을 공유하고 사업계획서를 작성하는 방법, 인큐베이터와 투자유치, 인력 확보 방안 등 실무적인 경험을 키우고 전문성을 강화 스타트업의 출구전략에 대한 정책 필요 (M&A와 기업공개를 활성화) 글로벌 AI 기업에게 필수적 사례가 된 안전하고 신뢰할 수 있는 AI 기술의 개발 오픈소스 AI 활용을 독려할 수 있도록 오픈소스 전문가 인력 채용을 활성화하고 오픈소스 기반 산업 응용 소프트웨어 개발을 위한 연구개발 지원 지역, 언어의 한계 극복을 위한 멀티모달 생성형 AI 기술에 주목 전문 인력 양성 및 국내 기업의 글로벌 AI 인재 유치 지원 등의 필요성 본 과제에서 제시하는 빠르게 생성 및 진화하는 국내 AI 창업기업 현황 분석 방법론을 통해, 향후 AI 기업 모집단 구축에 이바지할 수 있다. 이를 통해, 시의성 높은 산업·지역별 AI 제품 및 서비스 현황 분석으로 AI 산업 진흥을 위한 정책 자료로 제공할 수 있다. 6. 기대효과 본 연구를 통해 국내 AI 창업기업에 대한 최신 VC 투자 현황과 비즈니스 분석을 통해 국내 AI 기업을 육성하기 위한 정책 수립에 필요한 기초자료로 활용될 수 있다. 향후 혁신적인 인공지능 제품/서비스 활용 확대를 위한 미래 연구에도 활용될 수 있을 것으로 기대된다.

요약문 1. 제 목 : 국외 AI 시장 및 창업지원 정책 동향 조사 2. 연구 목적 및 필요성 2022년 ChatGPT의 출시와 더불어, 최근 초거대 AI 애플리케이션의 확산과 함께 전 산업의 AI 활용 확대 등 AI는 글로벌 시장에서 빠르게 확산하고 있다. 기존 산업에서는 AI를 도입하여 생산성 향상과 신규 시장 창출 등 부가가치를 발생하고 있으며, 신규 스타트업이 지속적으로 등장하여 VC와 정부로부터 대규모의 투자를 받아 성장하고 있다. 이에, 글로벌 AI 시장 및 창업 투자 동향을 파악하여 국내 AI 산업과 비교, 분석하는 연구를 통해 국내 AI 산업의 육성을 위한 정책 방향 수립의 기초자료 생성이 필요한 상황이다. 즉, 하루가 다르게 신규 기업 및 서비스가 출현하고 있는 급변하는 AI 시장의 특성을 고려할 때 글로벌 시장 조사와 환경분석은 시장의 흐름을 인지하고 기회를 포착하여 정책수립의 방향 설정을 하는 데에 중요한 역할을 할 것이다. 본 연구는 글로벌 인공지능 시장 및 투자 규모를 추정·전망하는 정량 자료를 수집‧ 분석하여, 주요국과 국내시장을 비교 분석하여 국산 AI 경쟁력 강화 및 해외진출 정책 발굴에 필요한 기초자료를 생성하는 데에 목적을 둔다. 또한, 국내와 해외의 AI분야 창업을 지원하는 정책의 비교 분석을 통해, 정책의 현황을 도출하고 비교함으로써 국내 AI 창업 및 투자 관점에서의 향후 가능성에 대해 분석하는 것을 목표로 한다. 3. 연구의 구성 및 범위 먼저, 본 과제에서 아우르는 ‘생태계’에 대한 용어를 명확히 정의하기 위해 기존 선행연구 문헌을 검토하였다. 이후, 글로벌 및 국내 AI 시장 규모 조사를 위해 글로벌 시장 조사 기관인 IDC와 Gartner로부터 세계, 국내 AI 및 생성형 AI 시장 규모 전망 보고서를 수집하여 조사 및 시사점을 도출하였다. 또한, 주요 국가별 AI 공급을 주도하는 주요기업의 시장 동향을 수집, 정리하였다. 시장 조사 기관의 보고서는 객관적인 수치를 도출하여 연도 및 국가 간 비교 분석을 하기에는 용이하나, 세부적인 기업의 현황과 통계 분석을 진행하기에는 원본 데이터 확보의 어려움, 기관의 수치 보정 및 계산 등의 사유로 어려움이 있다. 이에, 국가 간 비교가 가능한 스타트업 지표인 VC 투자 현황 데이터베이스인 Crunchbase 및 Dealroom.co 등을 분석하여 연도별, 국가별 AI분야 투자 및 창업기업 현황을 분석하였다. 마지막으로, 주요국의 AI 창업분야 정책 현황을 분석하고, 최근 우리나라의 각 유관 부처가 발표하는 AI 창업 정책을 통해 우리나라의 정책적 창업 환경의 강·약점을 도출하였다. 이를 통해, 전문가 자문 의견을 참고하여 최종 시사점을 도출하였다. 4. 연구 내용 및 결과 AI 생태계 관점에서는 AI의 공급과 수요, 활용 관점에서 주체들이 상호 상생하고 협력하는 구조를 형성하고 있다. 최근 글로벌 AI 생태계의 확장과 생성형 AI의 주목에 따라, 산업과 기업을 혁신함으로써 생태계는 능동적으로 확장되고 있다. 창업 및 투자 생태계 관점으로는 정책, 시장, 금융, 인적 자원, 지원, 문화 등 6가지 영역의 창업 생태계 모델을 바탕으로, 기업가정신에 기반하여 혁신적인 스타트업의 발전과 성장을 지원하고, 자금조달과 성장, 회수 등 창업 전반의 프로세스를 진행하는 제도와 자원의 기반을 의미하는 것으로 정의하였다. 글로벌 AI 시장 규모 및 투자 현황을 분석한 결과는 다음과 같다. [세계 AI 시장 규모] [해외 AI분야 VC투자 주요 결과] 글로벌 AI 시장 현황 분석 결과와 유사하게 VC 투자 부문 역시 미국이 전세계의 AI 시장을 주도하고 있으며, 특히 구글이나 MS 등 빅테크 기업이 시장 점유율은 물론 생성형 AI 스타트업 투자에서도 상위 투자액을 기록함으로써 플랫폼과 스타트업 생태계를 구성하고 있는 형태를 볼 수 있었다. 우리나라는 2022년 투자액 기준 세계 10위로, 스탠퍼드 AI Index의 결과와 유사한 수준으로 나타났다. 5. 정책적 활용 내용 본 연구의 주요 정책적 시사점은 다음과 같다. 정부의 적극적인 창업 정책과 AI 전략에 기반한 AI 창업기업 지원 정책 강화 AI 창업기업에 대한 정보 제공 및 자문 지원 글로벌 시장 진출 및 브랜드 위상 강화, 국제협력 및 파트너쉽 강화 개방형 AI 창업 연구 체계 구축 국내 인력의 해외 인력 유출 방지, 우수한 AI 인재 양성 및 유치 산업 생태계에서 협력체계 및 다양성 강화 창업기업들의 자금조달력 강화 지원 AI 창업 활성화를 위한 현행 법규에서 부담과 장애로 작용하는 규제를 완화하는 정책 마련 국내 AI 창업기업의 자금조달 및 투자 환경 개선 국내 대기업으로부터의 벤처투자 및 기업벤처캐피털(CVC) 활성화 GPT스토어 등 빅테크 생태계의 독점에 대한 우려 해소 필요 AI 원천기술(Foundation Model 등) 확보에 주력 현재, 국가별 AI 지수는 미국 스탠포드 대학을 비롯, 영국 토터스인텔리전스 등에서 매년 발표함으로써 세계적인 공신력을 인정받고 있다. 본 연구의 결과는 세계적인 AI 지수 발표 내용을 분석, 설명하는 보조 자료로써 활용될 수 있다. 대다수의 AI 지수는 순위와 점수 위주로 발표되며, 구체적인 스타트업의 수나 국가별 상위 투자 기업 등 계산 방식은 비공개로 처리되어 상세한 분석이 어려운 단점이 있으나, 본 연구와 같은 데이터베이스 원자료에 기반한 구체적인 데이터 분석 연구는 정량적인 결과 외에 추론과 국가별/기업별/기간별 세부 분석이 가능한 장점이 있다. 또한, 최근 AI 분야는 국가별 치열한 경쟁으로, 특히 선두국인 미국과 중국의 첨단기술 무역 경쟁으로 치닫고 있다. 아직까지는 미국과 중국 양국 간 경계를 넘나드는 투자나, 중국으로부터 투자받은 국내 기업이 문제가 되지는 않고 있지만, 본 과제에서 확보한 원자료를 통해 국가 간 투자 현황에 대한 모니터링이 가능하다. 6. 기대효과 세계 AI 시장 및 투자 규모 대비 국내 규모와 성장성을 파악하기 위해 수행한 본 연구과제는 세계 시장 대비 국내 인공지능 창업·투자 시장의 현주소를 점검하고 앞으로 AI 산업 생태계 활성화를 위한 정책 개발에 도움이 될 것으로 기대한다. 본 연구를 통해 국내 인공지능 시장 활성화 및 국내 기업 역량 강화 목적의 다양한 정책을 마련함으로써, AI 기술과 유관 산업이 중심이 된 국가경제 활성화와 AI 기업의 경쟁력 제고 등에 이바지할 것이다.

ChatGPT는 자연어를 이해하기 위해 방대한 양의 데이터로 훈련된 대규모 언어모델(LLM)로 출시 두 달 만에 1억 명의 가입자를 모으며 산업의 게임체인저로 부상했다. ChatGPT로 대표되는 언어모델을 포함한 다양한 생성 AI 모델은 높은 수준의 성능을 보여주며 검색 시장을 비롯해 다양한 산업에 영향을 미치고 있으며 크게 세 가지 분야에서 변화를 일으키고 있다. (후략)

2023년 4월 3일 스탠퍼드大 인간중심 인공지능 연구소는 AI Index 2023 보고서를 발간했다. 보고서는 연구개발, AI 기술 성능, AI 기술 윤리, 경제, 교육, 정책·거버넌스, 다양성, 여론 등 8개의 장으로 구분하고 글로벌 데이터와 보고 자료들을 심층 분석하여 핵심 내용을 정리하였다. (후략)

목차 Table of Contents

ㅇ Stanford HAI AI Index 2023 개요 ㅇ AI 연구 개발: 중국 대학 주도의 양적 질적 성장세 지속 ㅇ AI 기술 성능: 전반적 기술 성능이 벤치마크의 정점에 도달, 윤리성 검증 노력도 증가 ㅇ AI 경제: AI 고용 수요는 여전히 증가세이나 투자와 활용률은 주춤 ㅇ AI 교육: AI가 초중등 교육에도 활용되는 등 AI 교육 보편화 ㅇ AI 거버넌스 및 정책: AI전략 수립은 정점을 지났고 AI 입법 활동은 증가 ㅇ AI분야의 다양성: AI분야에서의 성별·인종별 격차가 존재하지만 감소 추이 ㅇ AI관련 여론: AI를 긍정적으로 인식하는 경향이 비교적 우세

목차 Table of Contents 1. 국내외 정책ㅇ미국 국립표준기술연구소(NIST), 인공지능 위험 관리 프레임워크 발표ㅇ 중국, ChatGPT 확산을 경계하는 인공지능 규제 도입 시사ㅇ 유럽, 인공지능 사용 확대에 따른 프라이버시 규제 당국 감시 강화ㅇ ChatGPT 사용 증가에 따른 AI 윤리 규제 필요성 대두 2. 기업·시장 동향ㅇ 구글, MusicLM을 통해 텍스트 기반 음악 생성 도구 상용화 가능성 시사ㅇ 디지털 검열에 따른 중국내 AI 기업의 정보 왜곡 우려 대두ㅇ 윤리적이고 책임감 있는 AI가 비즈니스 성공 열쇠로 부상 3. 고용·인력 동향ㅇ 채용AI, 편향성 우려로 여전히 활용엔 제한적으로 평가ㅇ 워싱턴포스트紙, AI알고리즘 해고 대상 선정 도구로 활용 편중 지적ㅇ 저널리즘에서 윤리적, 고용 문제를 야기하는 인공지능 사용 4. 기술·연구 동향ㅇ MIT 연구진, 폐암 위험을 감지할 수 있는 AI 모델 개발ㅇ 스탠포드大, 정치로비스트를 대신하는 ChatGPT 잠재력 연구ㅇ 브리티시컬럼비아大,AI로 의사 소견서를 분석하여 암 환자 생존 여부 예측ㅇ 美·中 연구진, 메타 LLAMA 기반 의료 챗봇 ChatDoctor 연구 결과 소개

세계 주요 경제개발 기구 및 글로벌 컨설팅 기관들은 공공부문의 인공지능 도입 및 활용범위의 확대는 업무 생산성 및 효율성 개선을 넘어, 국가 경제 전반에 긍정적 파급효과를 가져다줄 것으로 전망한다. 이런 AI도입의 순기능을 고려한 주요국 정부는 AI 기술을 공공부문에 적극 활용하여 사회문제를 해결하고, 업무 프로세스와 성과 혁신을 추구하고 있으나, AI 도입 및 확산은 더디게 진행되고 있다. (후략)

목차 Table of Contents 1. 국내외 정책 ㅇ 미국, 국가 인공지능연구자원(NAIRR) TF 최종 보고서 발표 ㅇ EU의 인공지능법, 생성AI 규제에 영향을 줄 것으로 전망 2. 기업·시장 동향 ㅇ 마이크로소프트, OpenAI에 100억 달러 추가 투자 결정 ㅇ 게티 이미지, 저작권 침해로 AI 이미지 생성기 개발사 스태빌리티AI 고소 ㅇ TechEU, 영화 제작에서 생성 AI 활용에 따른 혼란과 윤리 이슈 제기 ㅇ Moonshot, 사진 및 텍스트 생성 AI 관련 윤리 및 저작권 문제 제기 3. 고용·인력 동향 ㅇ 구직 및 경력 관리 도구로서 ChatGPT 활용 방안 ㅇ 마케팅 회사 코드워드(Codeword), 세계 최초 AI 인턴 채용 4. 기술·연구 동향 ㅇ 美 프리스턴 대학생, AI가 에세이를 썼는지 판별하는 앱 개발 ㅇ MIT, 美 공군 요원에게 AI 기초 교육 가능한 프로그램 개발 ㅇ 2023년 ICML 논문 제출에 ChatGPT 사용 금지 ㅇ ChatGPT, 사이버 범죄에 악용 가능성 확대

목차 Table of Contents 들어가며 (Introduction) 1. AI의 위대한 변곡점 (AI’s Great Inflection Point) 2. 합성 환자의 잠재력 (The Potentials of Synthetic Patients) 3. 의료 서비스 개선, 환자 관리에서 비용 청구까지 (Upending Healthcare, from Patient Care to Billing) 4. 자연을 들여다보는 AI의 창 (An AI Window into Nature) 5. 일상 생활의 새로운 도구 (The New Tools of Daily Life) 6. 시는 최적화되지 않을 것: AI 시대의 창의성 (Poetry Will Not Optimize: Creativity in the Age of AI) 7. 생성 AI와 법치주의 (Generative AI and the Rule of Law) 8. 新캄브리아기: ‘과학적 흥분과 불안’ (The New Cambrian Era: ‘Scientific Excitement, Anxiety’) 9. 작업자들을 위한 증강(자동화가 아닌) (A Call to Augment – Not Automate – Workers) 10. 노동의 재발명 (The Reinvention of Work) 11. 교육계 ‘진행중인 재앙’ (In Education, a ‘Disaster in the Making’) 12. 교육 시스템의 불평등 해결 (Solving Inequalities in the Education System)

세계 각국의 인공지능(AI) 시장은 급속히 성장하며 AI 기술과 시장에 대한 투자 규모 역시 경쟁적으로 증가함에 따라, 가히 AI 패권 경쟁의 시대가 도래하였다. (후략)

• 주제 : 소프트웨어의 서비스화, 공유와 협력의 시대
• 일시 : 2022.12.05.(월) / 13:10 ~ 17:10
• 장소 : COEX 컨퍼런스룸 327호 및 온라인 생중계

소프트웨어산업 관련 정보제공 및 통계 활용 증대를 위한 통계정보서비스 구축을 위해서는 타 서비스 수준의 최신성·분석 용이성·공유 용이성·정보 제공성·개인화 요소를 고려해야 하며, 통계정보 공유·확산을 위한 데이터 공유 플랫폼 및 거버넌스 구축 필요

전 세계가 신종 코로나19 확산에 대한 불안감을 높이던 2020년 1월 20일, 한국에서도 첫 코로나19 확진자가 발생했다. 아무도 잘 알지 못했던 신종 바이러스 확산을 막고자 감염자의 이동을 통제하고 동선을 추적하면 금방 사태가 종식될 것으로 여겼지만, 이후 여러 변이 바이러스의 출현으로 확산세는 좀처럼 잡히지 않고 더욱 커져갔다. 이렇게 2년이 지났고, 일상은 바이러스에 적응하며 빠르게 변화했다. 이스라엘 역사학자인 유발 하라리의 말처럼 코로나19 이후 ‘이전과는 다른 세계에 살게’ 된 것이다. 특히 SW산업은 재택근무 등 비대면 방식 업무의 확대로 산업의 변화를 넘어 전반적인 사회·문화의 변화에 영향을 끼치며 새로운 전기를 맞이하였다.(후략)

자료) 법원행정처(2022.1)

주1) 2017년 이후 수치는 한국표준산업분류(KSIC, 10차)를 적용함

2022년 초, 삼성·LG전자 두 기업이 공통으로 꺼낸 화두는 ‘경험’이었다. LG전자 조주완 사장은 신년 메시지에서 고객에 대한 깊은 이해와 공감을 바탕으로 디지털 전환을 추진해 혁신적인 경험을 제공하자고 말했으며, 삼성전자 한종희 부회장 역시 CES 2022에서 개인의 취향과 라이프스타일에 따른 맞춤형 경험의 비전을 제시하였다.