Bộ môn Ứng dụng Tin học tổ chức buổi "Seminar Ứng dụng Tin học tháng 11.2024" với bài báo cáo được thực hiện bởi Giáo sư Tiến sĩ Trần Thanh Long.

Giáo sư Trần Thanh Long hiện là Giáo sư tại Bộ môn Khoa học Máy tính, Đại học Warwick, Vương quốc Anh. Ông đang giữ vị trí Giám đốc Nghiên cứu của khoa (Phó Trưởng khoa) và Chủ tịch chương trình Digital Research Spotlight của trường. Ông là một nhà nghiên cứu tích cực trong nhiều lĩnh vực chủ chốt của Trí tuệ Nhân tạo (AI) và hệ thống đa tác tử (multi-agent systems), với trọng tâm chính bao gồm các vấn đề như multi-armed bandits, lý thuyết trò chơi (game theory), kỹ thuật khuyến khích (incentive engineering), và các ứng dụng của AI vì lợi ích xã hội (AI for Social Good).

Ông đã công bố hơn 80 bài báo tại các hội nghị A* hàng đầu trong lĩnh vực AI và học máy (ML), bao gồm AAAI, AAMAS, CVPR, IJCAI, NeurIPS, cũng như trên các tạp chí uy tín như JAAMAS và AIJ. Trong sự nghiệp nghiên cứu, ông đã nhận được nhiều giải thưởng danh giá ở cấp quốc gia và quốc tế.

Các bạn sinh viên, học viên cao học, nghiên cứu sinh và các đồng nghiệp quan tâm có thể tham dự buổi seminar với thông tin như sau: 

  • Thời gian: 11h00 sáng thứ 2 ngày 25/11/2024.
  • Địa điểm: Phòng E202B, Cơ sở I, Trường ĐH Khoa học Tự nhiên, Số 227 Đường Nguyễn Văn Cừ, Phường 4, Q5, TP. HCM.

Tiêu đề: Attacking reinforcement learning agents via data poisoning and how to defend

Thông tin buổi báo cáo như sau: 

Bandit algorithms and Reinforcement Learning models have been widely used in many successful applications in the recent years. However, it has been shown that these algorithms are vulnerable against data poisoning attacks, where an Adversary can manipulate the feedback of our Agent, guiding it to learn a suboptimal (or a targeted) behaviour on the long run. In this talk I will discuss the theoretical boundaries of such attacks, such as what the provable necessary and sufficient conditions are for a successful attack against different types of learning agents. I will also discuss a verification based way of defence mechanism against such data poisoning attacks. This talk is a summary of our recent papers published a AAAI 2022, ISCAl 2022, AAMAS 2024, with some new unpublished results.
 02e219d9-bf84-4354-a734-c665cc3ea58d.jpeg