Với hơn 20 năm kinh nghiệm chỉ đạo các cuộc thảo luận đa phương và xây dựng các chương trình thu hút sự tham gia của các bên liên quan quốc tế, ông Beridze đóng vai trò quan trọng trong việc hỗ trợ các chính phủ trên toàn thế giới về các chiến lược, kế hoạch hành động, lộ trình và tài liệu chính sách về AI.
Ông Beridze chia sẻ những hiểu biết độc đáo về cách tiếp cận của Liên Hợp Quốc đối với AI, ảnh hưởng tiềm ẩn của nó đối với xã hội và nền kinh tế, cũng như các vấn đề cần giải quyết để cho phép phát triển và triển khai AI có trách nhiệm trong phần Hỏi & Đáp sau.
Chúng tôi vui mừng thông báo rằngÔng Irakli Beridze, Giám đốc Trung tâm Trí tuệ Nhân tạo và Người máy tại UNICRI, Liên Hợp Quốc , đã ân cần trả lời một số câu hỏi về chuyên môn và công việc của mình trong lĩnh vực trí tuệ nhân tạo (AI).
1.Niềm đam mê của bạn đối với công nghệ và bảo mật được thể hiện rõ ràng trong công việc của bạn tại UNICRI. Bạn có thể chia sẻ những khoảnh khắc hoặc trải nghiệm quan trọng đã truyền cảm hứng cho bạn đi sâu vào lĩnh vực này và cuối cùng tham gia UNICRI không?
Cảm ơn câu hỏi của bạn! Trong suốt sự nghiệp của mình, trong 23 năm qua, tôi đang nghiên cứu về “tính hai mặt” của rủi ro và lợi ích của công nghệ cũng như tác động của nó đối với bảo mật. Khi bắt đầu sự nghiệp của mình, tôi đã nghiên cứu các vấn đề liên quan đến giải trừ vũ khí hóa học, nhưng để đảm bảo rằng lợi ích của việc sử dụng hóa học vì mục đích hòa bình được hiểu rõ và phổ biến rộng rãi ở mọi nơi trên thế giới. Tương tự như vậy, tôi đã làm việc về giảm thiểu rủi ro của vũ khí hóa học, sinh học, phóng xạ và hạt nhân, đồng thời xây dựng năng lực cho các quốc gia thành viên Liên Hợp Quốc bằng cách hỗ trợ phát triển kiến thức và chuyên môn trong các lĩnh vực trên trong thế giới rộng lớn hơn. Trong 8 năm qua, tôi phụ trách các chương trình nhằm đảm bảo các công nghệ tiên tiến đang phát triển theo cấp số nhân, chẳng hạn như Trí tuệ nhân tạo, được sử dụng để giải quyết các vấn đề liên quan đến tội phạm nhưng phải làm như vậy một cách có trách nhiệm, theo cách tuân thủ quyền con người! sự cân bằng giữa tính hai mặt trên là rất quan trọng đối với sự phát triển công nghệ và quản trị an ninh nói chung.
2.Với bối cảnh các mối đe dọa an ninh mạng ngày càng gia tăng, bạn cho rằng mối đe dọa nào là cấp bách nhất và cách tiếp cận sáng tạo nào chúng ta có thể áp dụng để chống lại chúng một cách hiệu quả?
Thứ nhất, có nhiều loại mối đe dọa mạng khác nhau và các loại tấn công mạng khác nhau. Một trong những kiểu tấn công mạng phổ biến nhất là tấn công bằng mã độc tống tiền, đây là một loại phần mềm độc hại mã hóa tệp của nạn nhân và yêu cầu thanh toán để đổi lấy khóa giải mã. Đây là mối đe dọa lớn đối với các tổ chức thuộc mọi quy mô và có thể gây ra sự gián đoạn và tổn thất tài chính đáng kể. Một cách tiếp cận sáng tạo để chống lại phần mềm tống tiền là triển khai các chiến lược sao lưu và khắc phục thảm họa hiệu quả, có thể giúp các tổ chức nhanh chóng phục hồi sau một cuộc tấn công mà không phải trả tiền chuộc.
Lừa đảo là một cuộc tấn công mạng nổi bật khác, trong đó tội phạm mạng lừa các cá nhân tiết lộ thông tin nhạy cảm, thường thông qua các email có vẻ hợp pháp. Một cuộc tấn công như vậy dựa trên một mối đe dọa mạng chưa được giải quyết; cụ thể là, kỹ thuật xã hội.
Kỹ thuật xã hội là một kỹ thuật được tội phạm mạng sử dụng để khai thác, không phải điểm yếu an ninh mạng, mà là lỗi của con người. Nó có thể liên quan đến việc mạo danh, lừa dối hoặc lợi dụng lòng tin. Một cách tiếp cận sáng tạo để chống lại kỹ thuật xã hội là cung cấp các chương trình đào tạo và nâng cao nhận thức cho nhân viên, có thể giúp giáo dục họ về các rủi ro cũng như cách xác định và ứng phó với các cuộc tấn công kỹ thuật xã hội.
Tuy nhiên, các mối đe dọa mạng khác mà tôi giải quyết trong khuôn khổ UNICRI là các loại tội phạm mạng đang gia tăng, đặc biệt là bóc lột và lạm dụng tình dục trẻ em trực tuyến. Tội phạm này là một mối đe dọa ngày càng lớn và đã tăng theo cấp số nhân do sự phát triển của công nghệ, chẳng hạn như phương tiện truyền thông xã hội và các phòng trò chuyện trực tuyến. Một trong những dự án chính của chúng tôi tại Trung tâm Trí tuệ nhân tạo và Người máy là tạo điều kiện thuận lợi cho việc sử dụng các công nghệ tiên tiến để chống lại loại tội phạm này, chẳng hạn như sử dụng các thuật toán máy học để xác định và truy tìm nạn nhân hoặc thủ phạm.
Nhìn chung, điều quan trọng là phải nhận ra rằng các mối đe dọa an ninh mạng này đòi hỏi một cách tiếp cận toàn diện để giải quyết chúng một cách hiệu quả. Điều này bao gồm triển khai các công nghệ bảo mật theo thiết kế, ưu tiên bảo mật ngay từ đầu, các phương pháp tiếp cận sáng tạo như sử dụng AI để phát hiện và ứng phó với các mối đe dọa trong thời gian thực, cung cấp các chương trình đào tạo và nâng cao nhận thức cũng như tham gia vào quan hệ đối tác công-tư với luật pháp cơ quan thực thi pháp luật và các bên liên quan khác chia sẻ thông tin tình báo về mối đe dọa và tài nguyên để điều tra và truy tố tội phạm mạng.
3.Theo kinh nghiệm của mình, bạn có quan sát thấy các công nghệ mới nổi như AI hoặc chuỗi khối đóng một vai trò quan trọng trong việc chống lại tội phạm mạng không? Làm thế nào những công nghệ này có thể xác định lại tương lai của an ninh mạng?
Có, tôi đã quan sát thấy các công nghệ mới nổi như AI và chuỗi khối đóng một vai trò quan trọng trong việc chống lại tội phạm mạng. Chẳng hạn, AI có thể được sử dụng để phân tích khối lượng lớn dữ liệu và xác định các mẫu cũng như điểm bất thường có thể chỉ ra các mối đe dọa trên mạng. Tương tự như vậy, chuỗi khối có thể cung cấp một sổ cái phi tập trung và chống giả mạo có thể giúp bảo mật dữ liệu và giao dịch. Với vai trò là Giám đốc Trung tâm AI và Robot của UNICRI, tôi đã nói chuyện với các đại diện thực thi pháp luật trên toàn thế giới, những người chứng minh rằng AI đã đóng góp và tạo ra sự khác biệt trong nhiều lĩnh vực. Bí quyết là tìm đúng khu vực và ứng dụng để tối đa hóa tiềm năng của một công cụ AI cụ thể.
Ví dụ, từ công việc của chúng tôi trênAI cho trẻ em an toàn hơn sáng kiến mà chúng tôi đã tận mắt chứng kiến rằng AI đã góp phần vào cuộc chiến chống bóc lột và lạm dụng tình dục trẻ em trực tuyến, chẳng hạn như cắt giảm thời gian điều tra - các công cụ nhận dạng khuôn mặt và phát hiện đối tượng có thể giúp liên kết các tệp với cùng một nạn nhân hoặc bối cảnh trong một phạm vi rộng lớn. lượng dữ liệu để xây dựng một trường hợp trong một cuộc điều tra. Theo các thành viên trong mạng lưới của chúng tôi đang sử dụng các công cụ này hàng ngày, thời gian dành cho việc phân tích các hình ảnh và video lạm dụng trẻ em trước đây mất từ 1 đến 2 tuần giờ đây có thể được thực hiện trong 1 ngày. Các công cụ AI cũng đã giúp xử lý các công việc tồn đọng, cắt giảm đáng kể các công việc tồn đọng pháp y từ hơn 1,5 năm xuống còn 4 đến 6 tháng. Đây là tất cả thời gian có thể tạo ra một thế giới khác biệt cho các nạn nhân.
Tuy nhiên, những công cụ này không thể được sử dụng riêng lẻ – chúng chỉ hỗ trợ các nhà điều tra con người trong việc sắp xếp thứ tự ưu tiên và quản lý thời gian. Đó là một ví dụ về lý do tại sao con đường phía trước của AI trong an ninh mạng sẽ tính đến các nguyên tắc về trách nhiệm và đạo đức để được chấp nhận rộng rãi hơn và do đó được thông qua, từ đó kêu gọi các quy định và mô hình quản trị mới để đảm bảo rằng các công nghệ này được sử dụng một cách có đạo đức và có trách nhiệm.
Nếu các nguyên tắc về trách nhiệm được duy trì, những công nghệ này thực sự có khả năng xác định lại tương lai của an ninh mạng bằng cách cho phép chúng tôi phát hiện và ứng phó với các mối đe dọa nhanh chóng và hiệu quả hơn.
4.Cân bằng nhu cầu bảo mật với quyền riêng tư cá nhân là một thách thức phức tạp trong thế giới kỹ thuật số ngày nay. Bạn đã gặp phải những trở ngại chính nào trong lĩnh vực này và làm thế nào để các chính phủ và tổ chức có thể điều hướng chúng?
Bạn đưa ra một câu hỏi rất quan trọng. Thông qua việc triển khai một dự án với INTERPOL và với sự hỗ trợ của Ủy ban Châu Âu, chúng tôi đã học được rất nhiều về những cạm bẫy liên quan đến việc sử dụng AI và những thách thức chính trong việc giải quyết chúng.
Cùng nhau, chúng tôi đang phát triển Bộ công cụ để đổi mới trí tuệ nhân tạo có trách nhiệm trong việc thực thi pháp luật - một hướng dẫn thực tế và định hướng hoạt động nhằm hỗ trợ cộng đồng thực thi pháp luật phát triển và triển khai trí tuệ nhân tạo một cách có trách nhiệm, tôn trọng các nguyên tắc đạo đức và nhân quyền. Nếu chúng ta muốn khai thác tiềm năng thực sự của AI, niềm tin của công chúng vào việc sử dụng AI an toàn và có đạo đức là điều kiện tiên quyết thiết yếu để triển khai hiệu quả và chỉ có thể đạt được thông qua các bước do một số bên liên quan thực hiện.
Đầu tiên, các công ty công nghệ nên triển khai quyền riêng tư và đạo đức theo thiết kế ngay từ khi bắt đầu phát triển, tạo ra các hệ thống AI minh bạch, có thể giải thích và chịu trách nhiệm giải trình, chẳng hạn như bằng cách đảm bảo rằng các hệ thống AI được đào tạo bằng cách sử dụng dữ liệu khách quan. Thứ hai, người dùng cuối phải kết hợp sự giám sát của con người vào quá trình ra quyết định và nhận thức được khả năng sai lệch và thiếu sót của nó, cũng như minh bạch nhất có thể với công chúng về cách thức và thời điểm họ đang sử dụng AI. Điều quan trọng nữa là phải tương tác với các cộng đồng và các bên liên quan để đảm bảo rằng những lo ngại của họ về quyền riêng tư và sự thiên vị được giải quyết và để thiết lập niềm tin vào việc sử dụng AI trong thực thi pháp luật. Cuối cùng, các chính phủ phải thiết lập các khuôn khổ pháp lý và quy định rõ ràng chi phối việc sử dụng AI trong thực thi pháp luật.
Chìa khóa để duy trì quyền riêng tư và các quyền con người khác là trách nhiệm giải trình và sự giám sát của con người, được thực hiện bằng sự minh bạch trong cách các hệ thống này được phát triển và sử dụng. Tôi không nói rằng chúng tôi đăng bất kỳ và tất cả thông tin nhạy cảm cho công chúng xem, mà là đưa ra các đánh giá đáng tin cậy ở mọi giai đoạn phát triển công nghệ đổi mới cũng như đánh giá thường xuyên sau khi triển khai.
Cuối cùng, điều quan trọng là phải nhận ra rằng quyền riêng tư và bảo mật không loại trừ lẫn nhau [chúng tôi đã nghe từ nhiều góc độ rằng nó không thể là một trò chơi có tổng bằng không giữa quyền riêng tư và bảo mật ] và rằng một cách tiếp cận cân bằng là cần thiết để vừa phát triển các giải pháp đổi mới với quyền riêng tư theo thiết kế cũng như bảo vệ công chúng khỏi việc lạm dụng AI.
5.Các tổ chức quốc tế như LHQ có thể đóng vai trò gì trong việc củng cố an ninh mạng và kiềm chế tội phạm mạng? Làm thế nào các tổ chức này có thể thúc đẩy sự hợp tác hiệu quả hơn với các bên liên quan khác nhau để đạt được mục tiêu của họ?
Các tổ chức quốc tế như Liên hợp quốc có thể đóng một vai trò quan trọng trong việc củng cố an ninh mạng và kiềm chế tội phạm mạng bằng cách cung cấp một nền tảng để chia sẻ thông tin và cộng tác giữa các bên liên quan khác nhau, bao gồm chính phủ, tổ chức khu vực tư nhân, nhóm xã hội dân sự và chuyên gia kỹ thuật. Ngoài ra, các sáng kiến của nó có thể cung cấp hỗ trợ kỹ thuật cho các quốc gia thiếu nguồn lực hoặc chuyên môn để chống lại các mối đe dọa trên mạng một cách hiệu quả.
Một cách mà LHQ có thể đạt được những mục tiêu này là thông qua việc thiết lập các sáng kiến nghiên cứu chung, chương trình xây dựng năng lực và các dự án hợp tác khác nhằm thúc đẩy các hoạt động đổi mới và thực tiễn tốt nhất trong lĩnh vực an ninh mạng. LHQ có thể cung cấp một nền tảng để các quốc gia thành viên chia sẻ thông tin và các phương pháp hay nhất, phát triển các tiêu chuẩn và quy tắc chung, đồng thời phối hợp ứng phó với các mối đe dọa trên mạng. Ví dụ: Viện nghiên cứu tội phạm và tư pháp liên vùng của Liên hợp quốc (UNICRI) chuyên về phòng chống tội phạm và tư pháp hình sự, và kể từ năm 2017, đã vận hành Trung tâm trí tuệ nhân tạo và người máy ở Hague. Trung tâm này chuyên về lĩnh vực công nghệ tiên tiến như AI, thông qua nghiên cứu các nguy cơ lạm dụng các công nghệ này của bọn tội phạm cũng như khám phá tiềm năng to lớn của AI và các công cụ khác để chống tội phạm.
Sự bảo trợ của Liên Hợp Quốc không chỉ cung cấp phạm vi bao phủ toàn cầu cần thiết cho tội phạm mạng không biên giới, mà còn giúp đảm bảo rằng các nguyên tắc và giá trị của Liên Hợp Quốc được thấm nhuần trong suốt quá trình hoạt động của tổ chức. Nỗ lực thúc đẩy các nguyên tắc như đa dạng và hòa nhập, nhân quyền, pháp quyền và bình đẳng khiến LHQ trở thành một tổ chức hỗ trợ toàn cầu và đáng tin cậy thực sự, qua đó chúng ta có thể đoàn kết nỗ lực của các bên liên quan khác nhau. Nguyên tắc phát triển bền vững tiếp tục hướng dẫn nó tập trung vào nhiều hơn các giải pháp tạm thời, mà tập trung vào tầm nhìn dài hạn để xây dựng năng lực bền vững cho các chính phủ và cộng đồng quốc tế nói chung.
Để đạt được mục tiêu đó, điều quan trọng là các tổ chức quốc tế như Liên hợp quốc phải tham gia với các cộng đồng địa phương và các bên liên quan để đảm bảo rằng các quan điểm và mối quan tâm thực sự toàn diện được tính đến khi xây dựng các chính sách và chương trình an ninh mạng. Cuối cùng, bằng cách thúc đẩy sự hợp tác và phối hợp về các vấn đề an ninh mạng, các tổ chức quốc tế như Liên hợp quốc có thể giúp thúc đẩy một thế giới kỹ thuật số an toàn và bảo mật hơn cho tất cả mọi người.
6.Chúng tôi háo hức muốn tìm hiểu về bất kỳ dự án hoặc sáng kiến hấp dẫn nào mà UNICRI đã bắt tay thực hiện gần đây trong lĩnh vực công nghệ và bảo mật. Bạn có thể chia sẻ một số điểm nổi bật với chúng tôi?
Trung tâm Trí tuệ nhân tạo và Người máy của UNICRI tham gia vào một số sáng kiến và dự án nhằm giải quyết những thách thức phức tạp và đang phát triển tại điểm giao nhau giữa công nghệ và bảo mật. Dưới đây là một số điểm nổi bật của công việc gần đây của chúng tôi:
1.Sáng kiến AI cho trẻ em an toàn hơn và Trung tâm toàn cầu: Trung tâm toàn cầu là một nền tảng dành riêng cho cơ quan thực thi pháp luật cung cấp nhiều dịch vụ, bao gồm danh mục các công cụ phần mềm hiện có áp dụng ở các giai đoạn khác nhau của quy trình điều tra, Trung tâm kiến thức và nghiên cứu điển hình để được hướng dẫn về cách triển khai các công cụ này và cách thực hiện một cách có trách nhiệm. Cuối cùng, nền tảng này cũng cung cấp một phần giao tiếp nơi các nhà điều tra có khả năng kết nối với nhau từ khắp nơi trên thế giới và mỗi người chia sẻ kinh nghiệm của riêng họ về việc sử dụng AI trong công việc của họ. Để tiếp tục xây dựng năng lực, vào năm 2023,AI cho trẻ em an toàn hơn sáng kiến cũng sẽ cung cấp các khóa đào tạo chuyên ngành miễn phí, phù hợp với nhu cầu và bối cảnh cụ thể của các thành viên Global Hub.
2.Bộ công cụ để đổi mới trí tuệ nhân tạo có trách nhiệm trong thực thi pháp luật: một hướng dẫn thiết thực cho các cơ quan thực thi pháp luật về phát triển và triển khai trí tuệ nhân tạo theo cách phù hợp với nhân quyền và có đạo đức. Xuất phát từ Cuộc họp toàn cầu INTERPOL–UNICRI đầu tiên về Trí tuệ nhân tạo để thực thi pháp luật vào năm 2018, dự án của nó đã chính thức được triển khai vào tháng 11 năm 2021 và Bộ công cụ sẽ được triển khai để thử nghiệm vào năm 2023.
3.Sử dụng có trách nhiệm tính năng nhận dạng khuôn mặt trong các cuộc điều tra thực thi pháp luật: Việc triển khai công nghệ nhận dạng khuôn mặt cho các cuộc điều tra thực thi pháp luật trên khắp thế giới được cho là một trong những trường hợp sử dụng nhạy cảm nhất của công nghệ nhận dạng khuôn mặt do những tác động tai hại tiềm tàng của lỗi hệ thống hoặc việc sử dụng sai mục đích trong lĩnh vực này . Bắt đầu từ đầu năm 2021, UNICRI thông qua Trung tâm AI của mình đã hợp tác với INTERPOL, Diễn đàn Kinh tế Thế giới và Cảnh sát Hà Lan để triển khai sáng kiến này nhằm thiết lập các giới hạn có trách nhiệm đối với việc sử dụng công nghệ nhận dạng khuôn mặt trong các cuộc điều tra của cơ quan thực thi pháp luật. Điều này dẫn đến việc phát hành khung chính sách được đề xuất có trong ấn phẩm chungKhung chính sách về giới hạn trách nhiệm đối với nhận dạng khuôn mặt .
Đây chỉ là một vài ví dụ về công việc thú vị và có tác động mà Trung tâm của chúng tôi đang thực hiện trong lĩnh vực công nghệ và bảo mật. Mục tiêu của chúng tôi là tiếp tục đổi mới và hợp tác với các đối tác trên khắp thế giới.
7.Khi những người tham dự chuẩn bị cho sự kiện sắp tới, bạn muốn truyền đạt những hiểu biết sâu sắc nào qua bài nói chuyện của mình? Cộng đồng an ninh mạng hiện đang phải đối mặt với những vấn đề cấp bách nào và làm thế nào chúng ta có thể cùng nhau đưa ra các chiến lược để giải quyết chúng?
Những phát triển công nghệ được thảo luận ngày hôm nay là vô cùng đáng khích lệ đối với tất cả chúng ta. Sức mạnh của AI luôn ở đây và chúng tôi tại Trung tâm AI và Robot của UNICRI cam kết khai thác tiềm năng của nó vì lợi ích của các xã hội trên toàn thế giới.
Chúng tôi mong muốn phát triển thành cuộc trò chuyện này tại #NFTSE 2023 với sự tham gia của nhiều chuyên gia khác trong lĩnh vực chuyên môn trong một cuộc trò chuyện bàn tròn.
Khi chúng ta tiếp tục kết hợp AI vào mọi mặt của cuộc sống, điều quan trọng là công nghệ phải được tạo ra và sử dụng một cách toàn diện, có đạo đức và bình đẳng. Chúng ta có thể tiến gần hơn đến việc hiện thực hóa tầm nhìn về một tương lai tối ưu hóa lợi ích của AI đồng thời hạn chế rủi ro và trở ngại của nó với lời khuyên và kỹ năng của ông Beridze.
Chúng tôi đánh giá cao thời gian và ý tưởng của ông Beridze, đồng thời chúng tôi mong muốn đạt được nhiều tiến bộ hơn nữa trong việc phát triển và triển khai AI có trách nhiệm trong những năm tới.
Đừng bỏ lỡ cơ hội gặp ông Irakli tại #NFTSE và kết nối với các nhà lãnh đạo khác trong lĩnh vực này.
Hãy lên kế hoạch trước và lưu ý rằng chương trình giảm giá vé Early Bird sẽ kết thúc rất sớm vào ngày 1 tháng Năm.
Tìm hiểu thêm về NFT Show Châu Âu #NFTSE
NFT Show Europe là một trong những sự kiện hàng đầu thế giới về web3, Blockchain, Metaverse và Digital Art. Một điểm gặp gỡ quốc tế để các chuyên gia chia sẻ những hiểu biết của họ về kỷ nguyên tiếp theo của internet trong một bầu không khí nghệ thuật kinh doanh tương lai.
Hashtag chúng tôi sử dụng:
#NFTSE #Web3 #BusinessInTheRealverse #Metaverse #NFT #Blockchain #DigitalArt #NFTCommunity
liên kết:
Irakli Beridze
#NFTSE 2023 Đoạn giới thiệu chính thức:https://youtu.be/Rf9jazG1yE0
Trang mạng:https://nftshoweurope.com/
Twitter:@nftshoweurope