Kiến thức, tài liệu
(THE 15 BIGGEST RISKS OF ARTIFICIAL INTELLIGENCE)
By Bernard Marr, Contributor
Forbes
Jun 2, 2023, 03:07 am EDT
Khi thế giới chứng kiến sự tăng trưởng chưa từng có trong công nghệ trí tuệ nhân tạo (AI), điều cần thiết là phải xem xét những rủi ro và thách thức tiềm ẩn liên quan đến việc áp dụng rộng rãi chúng.
15 rủi ro lớn nhất của trí tuệ nhân tạo. Adobe stock.
AI có một số mối nguy hiểm đáng kể - từ sự dịch chuyển công việc đến các mối quan tâm về bảo mật và quyền riêng tư - và khuyến khích nhận thức về các vấn đề giúp chúng ta tham gia vào các cuộc trò chuyện về ý nghĩa pháp lý, đạo đức và xã hội của AI.
Dưới đây là những rủi ro lớn nhất của trí tuệ nhân tạo:
1. Thiếu minh bạch - Lack of Transparency
Sự thiếu minh bạch trong các hệ thống AI, đặc biệt là trong các mô hình học sâu có thể phức tạp và khó giải thích, là một vấn đề cấp bách. Sự mờ đục này che khuất các quá trình ra quyết định và logic căn bản của các công nghệ này.
Khi mọi người không thể hiểu làm thế nào một hệ thống AI đi đến kết luận của nó, nó có thể dẫn đến sự ngờ vực và chống lại việc áp dụng các công nghệ này.
2. Thiên vị và phân biệt đối xử - Bias and Discrimination
Các hệ thống AI có thể vô tình duy trì hoặc khuếch đại các thành kiến xã hội do dữ liệu đào tạo thiên vị hoặc thiết kế thuật toán. Để giảm thiểu sự phân biệt đối xử và bảo đảm sự công bằng, điều quan trọng là phải đầu tư vào việc phát triển các thuật toán không thiên vị và các bộ dữ liệu đào tạo đa dạng.
3. Mối quan tâm về quyền riêng tư - Privacy Concerns
Các công nghệ AI thường thu thập và phân tích một lượng lớn dữ liệu cá nhân, đặt ra các vấn đề liên quan đến quyền riêng tư và bảo mật dữ liệu. Để giảm thiểu rủi ro về quyền riêng tư, chúng ta phải ủng hộ các quy định bảo vệ dữ liệu nghiêm ngặt và thực hành xử lý dữ liệu an toàn.
4. Tình huống khó xử về đạo đức - Ethical Dilemmas
Thấm nhuần (Instilling) các giá trị đạo đức (moral) và đạo đức (ethical) trong các hệ thống AI, đặc biệt là trong bối cảnh ra quyết định với những hậu quả đáng kể, là một thách thức đáng kể. Các nhà nghiên cứu và phát triển phải ưu tiên các tác động đạo đức của công nghệ AI để tránh các tác động xã hội tiêu cực.
5. Rủi ro bảo mật - Security Risks.
Khi các công nghệ AI ngày càng trở nên tinh vi, các rủi ro bảo mật liên quan đến việc sử dụng chúng và khả năng lạm dụng cũng tăng lên. Tin tặc và các tác nhân độc hại có thể khai thác sức mạnh của AI để phát triển các cuộc tấn công mạng tân tiến hơn, vượt qua các biện pháp bảo mật và khai thác lỗ hổng trong hệ thống.
Sự gia tăng của vũ khí tự động do AI điều khiển cũng làm dấy lên lo ngại về sự nguy hiểm của các quốc gia bất hảo hoặc các tác nhân phi nhà nước sử dụng công nghệ này - đặc biệt là khi chúng ta xem xét khả năng mất kiểm soát của con người trong các quy trình ra quyết định quan trọng. Để giảm thiểu những rủi ro bảo mật này, các chính phủ và tổ chức cần phát triển các phương pháp hay nhất để phát triển và khai triển AI an toàn và thúc đẩy hợp tác quốc tế để thiết lập các tiêu chuẩn và quy định toàn cầu bảo vệ chống lại các mối đe dọa bảo mật AI.
6. Tập trung quyền lực. Concentration of Power
Nguy cơ phát triển AI bị chi phối bởi một số ít các tập đoàn và chính phủ lớn có thể làm trầm trọng thêm sự bất bình đẳng và hạn chế sự đa dạng trong các ứng dụng AI. Khuyến khích phát triển AI phi tập trung và hợp tác là chìa khóa để tránh tập trung quyền lực.
7. Sự phụ thuộc vào AI - Dependence on AI
Sự phụ thuộc quá mức vào các hệ thống AI có thể dẫn đến mất khả năng sáng tạo, kỹ năng tư duy phê phán và trực giác của con người. Đạt được sự cân bằng giữa việc ra quyết định có sự hỗ trợ của AI và đầu vào của con người là rất quan trọng để bảo tồn khả năng nhận thức của chúng ta.
8. Chuyển dịch công việc - Job Displacement
Tự động hóa do AI điều khiển có khả năng dẫn đến mất việc làm trong các ngành công nghiệp khác nhau, đặc biệt là đối với những người lao động có tay nghề thấp (mặc dù có bằng chứng cho thấy AI và các công nghệ mới nổi khác sẽ tạo ra nhiều việc làm hơn là loại bỏ).
Khi các công nghệ AI tiếp tục phát triển và trở nên hiệu quả hơn, lực lượng lao động phải thích nghi và có được các kỹ năng mới để duy trì sự phù hợp trong bối cảnh thay đổi. Điều này đặc biệt đúng đối với những người lao động có tay nghề thấp hơn trong lực lượng lao động hiện tại.
9. Bất bình đẳng kinh tế - Economic Inequality
AI có tiềm năng góp phần vào sự bất bình đẳng kinh tế bằng cách mang lại lợi ích không cân xứng cho các cá nhân và tập đoàn giàu có. Như chúng ta đã nói ở trên, mất việc làm do tự động hóa do AI điều khiển có nhiều khả năng ảnh hưởng đến những người lao động có tay nghề thấp, dẫn đến khoảng cách thu nhập ngày càng tăng và giảm cơ hội di chuyển xã hội.
Sự tập trung phát triển và sở hữu AI trong một số ít các tập đoàn và chính phủ lớn có thể làm trầm trọng thêm sự bất bình đẳng này khi họ tích lũy của cải và quyền lực trong khi các doanh nghiệp nhỏ hơn phải vật lộn để cạnh tranh. Các chính sách và sáng kiến thúc đẩy công bằng kinh tế - như các chương trình đào tạo lại, mạng lưới an sinh xã hội và phát triển AI toàn diện để bảo đảm phân phối cơ hội cân bằng hơn - có thể giúp chống lại bất bình đẳng kinh tế.
10. Những thách thức pháp lý và quy định - Legal and Regulatory Challenges
Điều quan trọng là phải phát triển các khung pháp lý và quy định mới để giải quyết các vấn đề độc đáo phát sinh từ công nghệ AI, bao gồm trách nhiệm pháp lý và quyền sở hữu trí tuệ. Hệ thống pháp luật phải phát triển để theo kịp với những tiến bộ công nghệ và bảo vệ quyền của mọi người.
11. Cuộc chạy đua vũ trang AI - AI Arms Race
Nguy cơ các quốc gia tham gia vào một cuộc chạy đua vũ trang AI có thể dẫn đến sự phát triển nhanh chóng của các công nghệ AI với những hậu quả có hại tiềm tàng.
Gần đây, hơn một nghìn nhà nghiên cứu và lãnh đạo công nghệ, bao gồm cả người đồng sáng lập Apple Steve Wozniak, đã kêu gọi các phòng thí nghiệm tình báo tạm dừng phát triển các hệ thống AI tân tiến (pause the development of advanced AI systems). Bức thư nói rằng các công cụ AI mang lại "rủi ro sâu sắc cho xã hội và nhân loại" (profound risks to society and humanity).
Trong thư, các nhà lãnh đạo cho biết:
"Nhân loại có thể tận hưởng một tương lai hưng thịnh với AI. Sau khi thành công trong việc tạo ra các hệ thống AI mạnh mẽ, giờ đây chúng ta có thể tận hưởng một “mùa hè AI”, trong đó chúng ta gặt hái những phần thưởng, thiết kế các hệ thống này vì lợi ích rõ ràng của tất cả mọi người và cho xã hội cơ hội thích nghi.
12. Mất kết nối con người - Loss of Human Connection
Sự phụ thuộc ngày càng tăng vào giao tiếp và tương tác do AI điều khiển có thể dẫn đến giảm sự đồng cảm, kỹ năng xã hội và kết nối con người. Để bảo tồn bản chất xã hội của chúng ta, chúng ta phải cố gắng duy trì sự cân bằng giữa công nghệ và tương tác của con người.
13. Thông tin sai lệch và thao tùng - Misinformation and Manipulation.
Nội dung do AI tạo ra, chẳng hạn như deepfake, góp phần lan truyền thông tin sai lệch và thao túng dư luận. Nỗ lực phát hiện và chống lại thông tin sai lệch do AI tạo ra là rất quan trọng trong việc bảo vệ tính toàn vẹn của thông tin trong thời đại kỹ thuật số.
Trong một nghiên cứu của Đại học Stanford (Stanford University study) về những mối nguy hiểm cấp bách nhất của AI, các nhà nghiên cứu cho biết:
"Các hệ thống AI đang được sử dụng để phục vụ thông tin sai lệch trên internet, mang lại cho chúng khả năng trở thành mối đe dọa đối với nền dân chủ và là công cụ cho chủ nghĩa phát xít. Từ các video deepfake đến các bot trực tuyến thao túng diễn ngôn công khai bằng cách giả vờ đồng thuận và lan truyền tin tức giả mạo, có nguy cơ các hệ thống AI làm suy yếu niềm tin xã hội. Công nghệ này có thể được hợp tác bởi bọn tội phạm, các quốc gia bất hảo, những kẻ cực đoan về ý thức hệ, hoặc đơn giản là các nhóm lợi ích đặc biệt, để thao túng mọi người vì lợi ích kinh tế hoặc lợi thế chính trị.
14. Hậu quả không lường trước - Unintended Consequences
Các hệ thống AI, do sự phức tạp và thiếu sự giám sát của con người, có thể thể hiện các hành vi bất ngờ hoặc đưa ra quyết định với những hậu quả không lường trước được. Sự không thể đoán trước này có thể dẫn đến kết quả tác động tiêu cực đến cá nhân, doanh nghiệp hoặc toàn xã hội.
Các quy trình kiểm soát, xác nhận và giám sát mạnh mẽ có thể giúp các nhà phát triển và nhà nghiên cứu xác định và khắc phục các loại sai sót này trước khi chúng leo thang.
15. Rủi ro hiện hữu - Existential Risks
Sự phát triển của trí tuệ nhân tạo tổng hợp (artificial general intelligence, AGI) vượt qua trí thông minh của con người đặt ra mối quan tâm lâu dài cho nhân loại. Triển vọng của AGI có thể dẫn đến những hậu quả không lường trước (unintended) và có khả năng thảm khốc, vì các hệ thống AI tân tiến này có thể không phù hợp với các giá trị hoặc ưu tiên của con người.
Để giảm thiểu những rủi ro này, cộng đồng nghiên cứu AI cần tích cực tham gia vào nghiên cứu an toàn, hợp tác về các nguyên tắc đạo đức và thúc đẩy tính minh bạch trong phát triển AGI. Bảo đảm rằng AGI phục vụ lợi ích tốt nhất của nhân loại và không gây ra mối đe dọa cho sự tồn tại của chúng ta là điều tối quan trọng.
Để luôn cập nhật các xu hướng kinh doanh và công nghệ mới và mới nổi, hãy bảo đảm ghi danh nhận bản tin của tôi (my newsletter), theo dõi tôi trên Twitter, LinkedIn, and YouTube và xem sách của tôi, Kỹ năng tương lai: 20 kỹ năng và năng lực mà mọi người cần để thành công trong thế giới kỹ thuật số và Internet trong tương lai: Metaverse, Web 3.0 và Blockchain sẽ biến đổi doanh nghiệp và xã hội như thế nào (Future Skills: The 20 Skills and Competencies Everyone Needs to Succeed in a Digital World and The Future Internet: How the Metaverse, Web 3.0, and Blockchain Will Transform Business and Society).
Câu chuyện của Bernard Marr.
Bernard Marr là một nhà tương lai học nổi tiếng thế giới, cố vấn hội đồng quản trị và là tác giả của Generative AI in Practice: 100+ Amazing Ways Generative Artificial Intelligence is Changing Business and Society. Ông đã viết hơn 20 cuốn sách bán chạy nhất và từng đoạt giải thưởng và tư vấn và huấn luyện nhiều tổ chức nổi tiếng nhất thế giới. Ông ấy có tổng cộng 4 triệu người theo dõi trên các kênh truyền thông xã hội và bản tin của mình và được LinkedIn xếp hạng là một trong 5 người có ảnh hưởng kinh doanh hàng đầu trên thế giới.
.
THE 15 BIGGEST RISKS OF ARTIFICIAL INTELLIGENCE
By Bernard Marr, Contributor
Forbes
Jun 2, 2023, 03:07 am EDT
As the world witnesses unprecedented growth in artificial intelligence (AI) technologies, it's essential to consider the potential risks and challenges associated with their widespread adoption.
Photo: The 15 Biggest Risks Of Artificial Intelligence. ADOBE STOCK
AI does present some significant dangers — from job displacement to security and privacy concerns — and encouraging awareness of issues helps us engage in conversations about AI's legal, ethical, and societal implications.
Here are the biggest risks of artificial intelligence:
1. Lack of Transparency
Lack of transparency in AI systems, particularly in deep learning models that can be complex and difficult to interpret, is a pressing issue. This opaqueness obscures the decision-making processes and underlying logic of these technologies.
When people can’t comprehend how an AI system arrives at its conclusions, it can lead to distrust and resistance to adopting these technologies.
2. Bias and Discrimination
AI systems can inadvertently perpetuate or amplify societal biases due to biased training data or algorithmic design. To minimize discrimination and ensure fairness, it is crucial to invest in the development of unbiased algorithms and diverse training data sets.
3. Privacy Concerns
AI technologies often collect and analyze large amounts of personal data, raising issues related to data privacy and security. To mitigate privacy risks, we must advocate for strict data protection regulations and safe data handling practices.
4. Ethical Dilemmas
Instilling moral and ethical values in AI systems, especially in decision-making contexts with significant consequences, presents a considerable challenge. Researchers and developers must prioritize the ethical implications of AI technologies to avoid negative societal impacts.
5. Security Risks
As AI technologies become increasingly sophisticated, the security risks associated with their use and the potential for misuse also increase. Hackers and malicious actors can harness the power of AI to develop more advanced cyberattacks, bypass security measures, and exploit vulnerabilities in systems.
The rise of AI-driven autonomous weaponry also raises concerns about the dangers of rogue states or non-state actors using this technology — especially when we consider the potential loss of human control in critical decision-making processes. To mitigate these security risks, governments and organizations need to develop best practices for secure AI development and deployment and foster international cooperation to establish global norms and regulations that protect against AI security threats.
6. Concentration of Power
The risk of AI development being dominated by a small number of large corporations and governments could exacerbate inequality and limit diversity in AI applications. Encouraging decentralized and collaborative AI development is key to avoiding a concentration of power.
7. Dependence on AI
Overreliance on AI systems may lead to a loss of creativity, critical thinking skills, and human intuition. Striking a balance between AI-assisted decision-making and human input is vital to preserving our cognitive abilities.
8. Job Displacement
AI-driven automation has the potential to lead to job losses across various industries, particularly for low-skilled workers (although there is evidence that AI and other emerging technologies will create more jobs than it eliminates).
As AI technologies continue to develop and become more efficient, the workforce must adapt and acquire new skills to remain relevant in the changing landscape. This is especially true for lower-skilled workers in the current labor force.
9. Economic Inequality
AI has the potential to contribute to economic inequality by disproportionally benefiting wealthy individuals and corporations. As we talked about above, job losses due to AI-driven automation are more likely to affect low-skilled workers, leading to a growing income gap and reduced opportunities for social mobility.
The concentration of AI development and ownership within a small number of large corporations and governments can exacerbate this inequality as they accumulate wealth and power while smaller businesses struggle to compete. Policies and initiatives that promote economic equity—like reskilling programs, social safety nets, and inclusive AI development that ensures a more balanced distribution of opportunities — can help combat economic inequality.
10. Legal and Regulatory Challenges
It’s crucial to develop new legal frameworks and regulations to address the unique issues arising from AI technologies, including liability and intellectual property rights. Legal systems must evolve to keep pace with technological advancements and protect the rights of everyone.
11. AI Arms Race
The risk of countries engaging in an AI arms race could lead to the rapid development of AI technologies with potentially harmful consequences.
Recently, more than a thousand technology researchers and leaders, including Apple co-founder Steve Wozniak, have urged intelligence labs to pause the development of advanced AI systems. The letter states that AI tools present “profound risks to society and humanity.”
In the letter, the leaders said:
"Humanity can enjoy a flourishing future with AI. Having succeeded in creating powerful AI systems, we can now enjoy an 'AI summer' in which we reap the rewards, engineer these systems for the clear benefit of all, and give society a chance to adapt."
12. Loss of Human Connection
Increasing reliance on AI-driven communication and interactions could lead to diminished empathy, social skills, and human connections. To preserve the essence of our social nature, we must strive to maintain a balance between technology and human interaction.
13. Misinformation and Manipulation
AI-generated content, such as deepfakes, contributes to the spread of false information and the manipulation of public opinion. Efforts to detect and combat AI-generated misinformation are critical in preserving the integrity of information in the digital age.
In a Stanford University study on the most pressing dangers of AI, researchers said:
“AI systems are being used in the service of disinformation on the internet, giving them the potential to become a threat to democracy and a tool for fascism. From deepfake videos to online bots manipulating public discourse by feigning consensus and spreading fake news, there is the danger of AI systems undermining social trust. The technology can be co-opted by criminals, rogue states, ideological extremists, or simply special interest groups, to manipulate people for economic gain or political advantage.”
14. Unintended Consequences
AI systems, due to their complexity and lack of human oversight, might exhibit unexpected behaviors or make decisions with unforeseen consequences. This unpredictability can result in outcomes that negatively impact individuals, businesses, or society as a whole.
Robust testing, validation, and monitoring processes can help developers and researchers identify and fix these types of issues before they escalate.
15. Existential Risks
The development of artificial general intelligence (AGI) that surpasses human intelligence raises long-term concerns for humanity. The prospect of AGI could lead to unintended and potentially catastrophic consequences, as these advanced AI systems may not be aligned with human values or priorities.
To mitigate these risks, the AI research community needs to actively engage in safety research, collaborate on ethical guidelines, and promote transparency in AGI development. Ensuring that AGI serves the best interests of humanity and does not pose a threat to our existence is paramount.
To stay on top of new and emerging business and tech trends, make sure to subscribe to my newsletter, follow me on Twitter, LinkedIn, and YouTube, and check out my books, Future Skills: The 20 Skills and Competencies Everyone Needs to Succeed in a Digital World and The Future Internet: How the Metaverse, Web 3.0, and Blockchain Will Transform Business and Society.
Story by Bernard Marr
Bernard Marr is a world-renowned futurist, board advisor and author of Generative AI in Practice: 100+ Amazing Ways Generative Artificial Intelligence is Changing Business and Society. He has written over 20 best-selling and award-winning books and advises and coaches many of the world’s best-known organisations. He has a combined following of 4 million people across his social media channels and newsletters and was ranked by LinkedIn as one of the top 5 business influencers in the world.
* * *
Xem bài liên hệ với đề tài nầy: click vào đây
Xem bài trang Kiến thức, tài liệu: click vào đây
Xem các bài trên trang Anh ngữ: click vào đây
Trở về trang chính: http://www.nuiansongtra.net