nuiansongtra.net - Nui An Song Tra - TRÍ TUỆ NHÂN TẠO SẼ TÁC ĐỘNG ĐẾN SỰ RĂN ĐE NHƯ THẾ NÀO

Đề tài liên hệ:

Artificial Intelligence

(HOW AI WILL IMPACT DETERRENCE)

by Nishank Motwani

The National Interest

May 26, 2024

Mặc dù Trí tuệ Nhân tạo (Artificial Intelligence, AI) có tiềm năng tăng cường khả năng quân sự bằng cách cải thiện nhận thức tình huống, nhắm mục tiêu chính xác và ra quyết định nhanh chóng, công nghệ này không thể xóa bỏ tình trạng tiến thoái lưỡng nan về an ninh bắt nguồn từ sự không chắc chắn quốc tế có hệ thống.

Ảnh: Shutterstock.com.

Trong lĩnh vực quốc phòng và an ninh, Artificial Intelligence (AI) có khả năng chuyển đổi (transform) các hoạt động răn đe (deterrence) và ép buộc (coercion), có ít nhất ba tác động bổ sung cho quyền lực, nhận thức và tính toán thuyết phục giữa các quốc gia.

Các khoản đầu tư đáng kể (substantial) vào AI trên khắp các chính phủ, các ngành công nghiệp tư nhân và học viện nhấn mạnh vai trò quan trọng của nó. Tuy nhiên, phần lớn các cuộc thảo luận rơi vào các câu chuyện miêu tả robot giết người theo phong cách Kẻ hủy diệt hoặc thuốc chữa bách bệnh (panaceas) không tưởng (utopian). Những khám phá giới hạn cực đoan như vậy khiến câu hỏi về ảnh hưởng tiềm tàng của AI đối với các vấn đề chiến lược quan trọng chưa được trả lời.

Do đó, một cuộc trò chuyện về những cách thức mà AI sẽ thay đổi phương trình răn đe và ép buộc và cách giải quyết những thách thức chiến lược mà điều này đặt ra là điều cần thiết.

Về cốt lõi (At its core), răn đe (deterrence) là ảnh hưởng đến hành vi của kẻ thù thông qua mối đe dọa trừng phạt hoặc trả thù. Mục tiêu của răn đe là thuyết phục đối thủ từ bỏ một hành động cụ thể bằng cách thấm nhuần nỗi sợ hậu quả, từ đó thao túng các tính toán chi phí - lợi ích của họ. Trong khi răn đe nhằm mục đích ngăn chặn đối thủ thực hiện một hành động cụ thể trong tương lai, sự ép buộc (compellence, thuyết phục) tìm cách buộc phải thay đổi hành vi hiện tại của đối thủ.

Cả hai khái niệm đều thuộc khái niệm cưỡng chế rộng hơn. Các tác nhân tham gia vào động lực này phải xem xét cẩn thận cách truyền đạt các mối đe dọa cho đối thủ của họ để khiến họ xem xét lại ý chí thực hiện các hành động cụ thể. Mỗi động thái và phản công trong tính toán cưỡng chế đều mang đến những rủi ro leo thang đáng kể có thể gây ra những hậu quả không lường trước được. Do đó, những người ra quyết định (decisionmakers) phải xem xét từng bước một cách thận trọng, dựa trên lịch sử, tâm lý (psychology) và bối cảnh (context) để truyền đạt các mối đe dọa đáng tin cậy nhằm ngăn cản đối thủ vượt qua lằn ranh đỏ.

Chúng ta hãy xem xét từng yếu tố thiết yếu của sự ép buộc: quyền lực (power), nhận thức (perception) và thuyết phục (persuasion).

Quyền lực có nhiều chiều (dimensions). Khả năng quân sự, sự giàu có về kinh tế, tiến bộ kỹ thuật, quan hệ ngoại giao, tài nguyên thiên nhiên và ảnh hưởng văn hóa của một diễn viên nằm trong số đó. Bên cạnh sức mạnh thực tế, khả năng báo hiệu sở hữu của nó là rất quan trọng. Như Thomas Hobbes đã nói (states) trong Leviathan, "danh tiếng của quyền lực là quyền lực" (reputation of power is power).

Quan niệm của Hobbes vẫn còn phù hợp, vì điện cắt ngang các khả năng cứng. Nó cũng thông báo nhận thức của chúng ta về người khác, bao gồm hiểu nỗi sợ hãi, ý thức hệ (ideologies), động cơ và động cơ của họ về cách họ hành động, cũng như các phương tiện mà các diễn viên sử dụng để thuyết phục người khác có được những gì họ muốn trong mối quan hệ của họ.

Tuy nhiên, sự tương tác (interaction) năng động (dynamic) của quyền lực thúc đẩy hợp tác, cạnh tranh và xung đột này có thể sẽ ngày càng trở nên biến động do AI và sự mơ hồ mà nó sẽ tiêm vào tâm trí của những người ra quyết định khi diễn giải tham vọng phòng thủ hoặc tấn công của một diễn viên. Ví dụ, nếu một diễn viên đã nhận thức được người kia là ác ý, việc tận dụng AI có thể sẽ củng cố sự thiên vị rằng tư thế quân sự của đối thủ cạnh tranh ngày càng phản ảnh một cuộc tấn công hơn là định hướng phòng thủ. Củng cố (Reinforcing) thành kiến (biases) có thể có nghĩa là ngoại giao sẽ trở nên khó khăn hơn trong việc đóng một vai trò trong việc giảm leo thang (de-escalating) căng thẳng.

Sự thiếu khả năng giải thích (explainability) vốn có của AI, ngay cả trong các ứng dụng lành tính, đặt ra một thách thức đáng kể khi nó ngày càng được tích hợp vào các khả năng quân sự có khả năng gây hại to lớn. Những người ra quyết định sẽ phải vật lộn với việc giải thích phương trình tấn công - phòng thủ của đối tác trong bối cảnh mơ hồ (ambiguity) này.

Ví dụ, hãy tưởng tượng nếu một bộ Tình báo, Giám sát và Trinh sát (Intelligence, Surveillance, and Reconnaissance, IRS) AI theo dõi các cuộc tập trận quân sự của Trung Cộng ở Biển Đông phân tích các cuộc tập trận là khúc dạo đầu cho một cuộc tấn công vào Đài Loan và khuyến nghị Hoa Kỳ điều động các nhóm hàng không mẫu hạm (HKMH) để ngăn chặn động thái của Tàu Cộng. Các nhà hoạch định chính sách Hoa Kỳ tin tưởng vào khuyến nghị này vì bộ Tình báo, Giám sát và Trinh sát AI (AI ISR) đã xử lý nhiều dữ liệu hơn con người có thể và hành động theo khuyến nghị. Tuy nhiên, Bắc Kinh không thể chắc chắn liệu động thái của Mỹ là để đáp trả các cuộc tập trận quân sự của họ hay nhằm mục đích khác. Giới lãnh đạo Tàu tặc cũng không chắc chắn về cách Hoa Kỳ đi đến quyết định này và ý định của họ là gì, điều này làm tăng thêm sương mù cho việc giải thích động cơ chiến lược của Mỹ và mức độ mà những động cơ này được thông báo bởi lời khuyên của AI so với nhận thức của con người. Một động lực như vậy sẽ khuếch đại (amplify) những nhận thức sai lầm (misperceptions) và làm cho nó vốn đã khó khăn hơn để ngăn chặn một vòng xoáy nguy hiểm có thể dẫn đến xung đột động học (kinetic).

Một mối quan tâm cấp bách khác là liệu AI có thể làm trầm trọng thêm sự thành hình hình ảnh kẻ thù hay không, thúc đẩy các đánh giá kịch bản trường hợp xấu nhất được sử dụng để biện minh cho hình phạt hoặc bạo lực. Nguy cơ này không phải là giả thuyết; dữ liệu thiên vị ( biased data) trong chính sách dựa trên dữ liệu đã dẫn đến việc nhắm mục tiêu không cân xứng vào các nhóm thiểu số ( targeting of minorities). Trong lĩnh vực quân sự, sự thiên vị thuật toán, bắt nguồn từ việc thu thập, đào tạo và ứng dụng dữ liệu, có thể gây ra hậu quả chết người. Con người có thể định hình (shape) AI, nhưng công nghệ mới có thể định hình việc ra quyết định trong tương lai của họ.

Sự không chắc chắn thường xuyên (permanence of uncertainty) trong hệ thống quốc gia quốc tế có nghĩa là nhận thức (perceptions) sẽ vẫn còn thành kiến (prejudiced). Không có giải pháp kỹ thuật nào, kể cả AI, có thể khắc phục được những bất an sâu sắc này của con người. Hình ảnh nhận thức, nghĩa là nhận thức của một tác nhân về đối tác của họ, không thể được rút gọn thành dữ liệu, cho dù bộ dữ liệu đa vector cung cấp khả năng AI có phức tạp đến đâu, một phần vì dữ liệu không thể ghi lại cảm giác độc đáo của bất kỳ tình huống cụ thể nào.

Vì vậy, mặc dù AI có tiềm năng tăng cường khả năng quân sự bằng cách cải thiện nhận thức tình huống, nhắm mục tiêu chính xác và ra quyết định nhanh chóng, nó không thể xóa bỏ tình trạng tiến thoái lưỡng nan về an ninh bắt nguồn từ sự không chắc chắn quốc tế có hệ thống. Tốt nhất (at best), việc tăng cường áp dụng AI trong các cấu trúc chính trị, quốc phòng và quân sự của các tác nhân trên toàn cầu có thể dẫn đến những nhận thức tương tự.

Tuy nhiên, chúng ta cũng nên chuẩn bị cho sự biến động lớn hơn khi các quốc gia chạy đua để vượt lên trên các đối thủ cạnh tranh, tin rằng AI có thể tăng tốc vị trí của họ trong hệ thống quốc gia quốc tế (international state), khuếch đại tình thế tiến thoái lưỡng nan về an ninh. Kết quả là, các quốc gia thường chuẩn bị cho điều tồi tệ nhất vì họ không bao giờ có thể thực sự biết ý định của đối thủ cạnh tranh.

Một thách thức trung tâm nằm ở việc truyền đạt hiệu quả các khả năng dựa trên thuật toán. Không có gì tương đương với việc đo lường khả năng AI đối với các nền tảng vũ khí vật lý như xe tăng, hỏa tiễn hoặc tàu ngầm, điều này chỉ làm tăng sự không chắc chắn về mặt răn đe.

Thứ ba, nghệ thuật thuyết phục cũng có khả năng trở nên phức tạp hơn với việc áp dụng AI. Những tiến bộ trong AI đã chứng minh (demonstrated) sức mạnh của các hệ thống AI có thể thuyết phục con người mua sản phẩm, xem video và rơi sâu hơn vào buồng vang (echo chambers) của họ. Khi các hệ thống AI trở nên cá nhân hóa, phổ biến và dễ tiếp cận hơn, kể cả trong môi trường nhạy cảm và được phân loại cao, có nguy cơ thành kiến của những người ra quyết định có thể ảnh hưởng đến cách họ định hình thực tế và hành động của chính họ.

Các nhà lãnh đạo dân sự và quân sự muốn tin rằng họ đang kiểm soát môi trường thông tin của họ. Tuy nhiên, AI có thể thay đổi phẩm chất (qualitatively) trải nghiệm của họ, vì họ cũng sẽ phải chịu các mức độ khác nhau của các chiến dịch thông tin sai lệch và tin xuyên tạc mạnh mẽ từ đối thủ của họ. Do đó, sự tham gia của chúng ta với AI và các công cụ thuyết phục do AI (AI-driven persuasion) điều khiển có thể sẽ ảnh hưởng đến môi trường thông tin của chính chúng ta, ảnh hưởng đến cách chúng ta thực hành và phản ứng với động lực ép buộc.

Việc áp dụng AI ngày càng tăng trong lĩnh vực quân sự (the military domain) đặt ra những thách thức đáng kể đối với các hoạt động răn đe. Sự thiếu khả năng giải thích của AI khiến những người ra quyết định khó diễn giải chính xác ý định của đối tác, làm tăng nguy cơ hiểu lầm và leo thang. Việc áp dụng AI sớm có thể củng cố hình ảnh và thành kiến của kẻ thù, thúc đẩy sự ngờ vực và có khả năng gây ra xung đột. Mặc dù AI tăng cường một loạt các khả năng quân sự, nhưng nó không thể loại bỏ sự bất an tiềm ẩn gây ra những tình huống khó xử về an ninh trong quan hệ giữa các quốc gia. Khi các quốc gia tranh giành lợi thế chiến lược do AI điều khiển, sự biến động và nguy cơ leo thang tăng lên. Cuối cùng (ultimately), bi kịch của sự không chắc chắn và sợ hãi nhấn mạnh sự cần thiết phải hoạch định chính sách thận trọng khi AI trở nên phổ biến (prevalent) hơn trong bộ máy chiến tranh của chúng ta.

Viết bởi Nishank Motwani.

Ông Nishank Motwani là nhà phân tích cao cấp tại Viện Chính sách Chiến lược Australia, người đứng đầu danh mục đầu tư của AUKUS và là học giả không thường trú tại Viện Trung Đông. Ông bao gồm các vấn đề chiến lược và an ninh trên khắp Trung Đông, tập trung vào các cuộc cạnh tranh giữa các quốc gia, các tác nhân và xung đột quan trọng.

Artificial Intelligence

HOW AI WILL IMPACT DETERRENCE

by Nishank Motwani

The National Interest

May 26, 2024

Despite AI’s potential to enhance military capabilities by improving situational awareness, precision targeting, and rapid decisionmaking, the technology cannot eradicate the security dilemma rooted in systemic international uncertainty.

Image: Shutterstock.com.

In the realm of defense and security, Artificial Intelligence (AI) is likely to transform the practices of deterrence and coercion, having at least three complementary effects on power, perception, and persuasion calculations among states.

The substantial investments in AI across governments, private industries, and academia underscore its pivotal role. Much of the discussion, however, falls into narratives portraying either Terminator-style killer robots or utopian panaceas. Such extreme-limit explorations leave questions about AI’s potential influence on key strategic issues unanswered.

Therefore, a conversation about the ways in which AI will alter the deterrence and coercion equation and the ways to address the strategic challenges this raises is essential.

At its core, deterrence is about influencing an adversary’s behavior through the threat of punishment or retaliation. The goal of deterrence is to convince an opponent to forgo a particular action by instilling a fear of consequences, thereby manipulating their cost-benefit calculations. While deterrence aims to prevent an opponent from taking a specific action in the future, compellence seeks to force a change in the opponent’s present behavior.

Both concepts fall under the broader concept of coercion. Actors engaged in this dynamic must carefully consider how to communicate threats to their adversaries to make them reconsider their will to undertake specific actions. Each move and countermove in the coercion calculus carries significant escalatory risks that can trigger unintended consequences. Hence, decisionmakers must consider each step judiciously, drawing on history, psychology, and context to communicate credible threats to dissuade adversaries from crossing red lines.

Let’s look at each of the essential elements of coercion: power, perception, and persuasion.

Power has several dimensions. An actor’s military capabilities, economic wealth, technical advancements, diplomatic relations, natural resources, and cultural influence are among them. Besides actual power, the ability to signal its possession is critical. As Thomas Hobbes states in Leviathan, the “reputation of power is power.”

Hobbes’ conception remains relevant, given that power cuts across hard capabilities. It also informs our perceptions of others, including understanding their fears, ideologies, motives, and incentives for how they act, as well as the means that actors use to persuade others to get what they want in their relationships.

However, this dynamic interaction of power that drives cooperation, competition, and conflict will likely become increasingly volatile due to AI and the ambiguity it would inject into decisionmakers’ minds when interpreting an actor’s defensive or offensive ambitions. For instance, if an actor already perceives the other as malign, leveraging AI is likely going to reinforce the bias that a competitor’s military posture increasingly reflects an offensive rather than a defensive orientation. Reinforcing biases could mean that it will become more challenging for diplomacy to play a role in de-escalating tensions.

AI’s inherent lack of explainability, even in benign applications, poses a significant challenge as it becomes increasingly integrated into military capabilities that have the power to do immense harm. Decisionmakers will have to grapple with interpreting their counterparts’ offensive-defensive equation amid this ambiguity.

For instance, imagine if an AI Intelligence, Surveillance, and Reconnaissance (IRS) suite tracking Chinese military exercises in the South China Sea analyzed the exercises to be a prelude to an attack on Taiwan and recommended that the United States deploy carrier groups to deter China’s move. U.S. decisionmakers trust the recommendation because the AI ISR suite has processed far more data than humans could and actions the recommendation. However, Beijing cannot be sure whether the U.S. move is in response to its military exercises or is intended for other purposes. The Chinese leadership is also unsure about how the United States arrived at this decision and what its intentions are, which adds more fog to its interpretation of American strategic motives and the extent to which these motives are informed by the AI’s advice versus human cognition. Such a dynamic would amplify misperceptions and make it inherently harder to forestall a dangerous spiral that could lead to kinetic conflict.

Another pressing concern is whether AI could exacerbate the formation of enemy images, prompting worst-case scenario assessments used to justify punishment or violence. This risk is not hypothetical; biased data in data-driven policing has resulted in disproportionate targeting of minorities. In the military domain, algorithmic bias, stemming from data collection, training, and application, could have lethal consequences. Humans may shape AI, but the novel technology may, in turn, shape their future decisionmaking.

The permanence of uncertainty in the international state system means that perceptions will remain prejudiced. No technical fixes, including AI, can override these deep human insecurities. Cognitive imageries, meaning an actor’s perception of their counterpart, cannot be reduced to data, no matter how sophisticated the multi-vector datasets feeding the AI capability are, partly because data cannot capture the unique feel of any particular situation.

So, despite AI’s potential to enhance military capabilities by improving situational awareness, precision targeting, and rapid decisionmaking, it cannot eradicate the security dilemma rooted in systemic international uncertainty. At best, the increased adoption of AI in political, defense, and military structures by actors globally could result in about the same perceptions.

However, we should also be prepared for greater volatility as states race to get ahead of their competitors, convinced that AI could accelerate their place in the international state system, amplifying the security dilemma. As a result, states often prepare for the worst since they can never truly know their competitor’s intentions.

A central challenge lies in effectively communicating algorithm-based capabilities. There is no equivalent of measuring AI capability to physical weapons platforms such as tanks, missiles, or submarines, which only increases the uncertainty in deterrence terms.

Thirdly, the art of persuasion is also likely to become more complex with the adoption of AI. Advances in AI have already demonstrated the power of AI systems that can persuade humans to buy products, watch videos, and fall deeper into their echo chambers. As AI systems become more personalized, ubiquitous, and accessible, including in highly classified and sensitive environments, there is a risk that decisionmakers’ biases could influence how they shape their own realities and courses of action.

Civilian and military leaders like to believe they are in control of their information environments. Still, AI could qualitatively change their experiences, as they, too, would be subject to varying degrees of powerful misinformation and disinformation campaigns from their opponents. Hence, our engagement with AI and AI-driven persuasion tools will likely affect our own information environment, impacting how we practice and respond to the dynamics of coercion.

The increasing adoption of AI in the military domain poses significant challenges to deterrence practices. AI’s lack of explainability makes it difficult for decisionmakers to accurately interpret their counterparts’ intentions, heightening the risk of misperception and escalation. Early AI adoption may reinforce enemy images and biases, fostering mistrust and potentially sparking conflict. While AI enhances a broad spectrum of military capabilities, it cannot eliminate the underlying insecurity that fuels security dilemmas in interstate relations. As states vie for AI-driven strategic advantages, volatility and the risk of escalation increase. Ultimately, the tragedy of uncertainty and fear underscores the need for cautious policymaking as AI becomes more prevalent in our war machinery.

Written by Nishank Motwani.

Nishank Motwani is a Senior Analyst at the Australian Strategic Policy Institute, heading the AUKUS portfolio, and a Non-Resident Scholar at the Middle East Institute. He covers strategic and security issues across the Middle East, focusing on key interstate rivalries, actors, and conflicts.

* * *

Xem bài liên hệ với đề tài nầy: click vào đây

Xem bài trang Kiến thức, tài liệu: click vào đây

Xem các bài trên trang Anh ngữ: click vào đây

Trở về trang chính: http://www.nuiansongtra.net