Dopamine và serotonin: hai hệ thần kinh đối nghịch định hình quá trình học tập của não bộ

Dopamine và serotonin là hai chất dẫn truyền thần kinh thường xuyên được nhắc đến trong các chủ đề về cảm xúc, động lực và rối loạn tâm thần. Tuy nhiên, cách chúng thực sự phối hợp – hay chính xác hơn là đối trọng lẫn nhau – trong quá trình học tập và ra quyết định vẫn chưa được hiểu đầy đủ. Một nghiên cứu mới từ Stanford University đã cung cấp bằng chứng thực nghiệm trực tiếp cho thấy dopamine và serotonin hoạt động như bàn đạp ga và phanh, cùng nhau điều khiển cách não bộ học từ phần thưởng.

Hiểu lại vai trò của dopamine và serotonin

Trong nhiều năm, dopamine thường bị gắn nhãn là “chất gây khoái cảm”, còn serotonin được xem là “chất ổn định tâm trạng”. Tuy nhiên, các cách diễn giải này đã đơn giản hóa quá mức vai trò sinh học thực sự của hai hệ thần kinh này.

Dopamine không chỉ liên quan đến khoái cảm, mà đóng vai trò trung tâm trong dự đoán phần thưởng và thúc đẩy hành vi tìm kiếm. Trong khi đó, serotonin không tạo ra cảm xúc tích cực tức thời, mà ảnh hưởng sâu sắc đến khả năng kiềm chế, linh hoạt hành vi và đánh giá hệ quả dài hạn.

Thực tế việc thuốc chống trầm cảm nhóm SSRI phải mất nhiều tuần mới có hiệu quả cho thấy serotonin không hoạt động theo cơ chế “tăng nhanh là tốt”, mà thông qua những thay đổi phức tạp ở mạng lưới thần kinh phía sau.

Hai giả thuyết lớn về học tập dựa trên phần thưởng

Trước nghiên cứu này, giới khoa học tồn tại hai giả thuyết chính về mối quan hệ giữa dopamine và serotonin:

Giả thuyết hiệp đồng cho rằng dopamine xử lý phần thưởng ngắn hạn, còn serotonin phụ trách lợi ích dài hạn.

Giả thuyết đối nghịch cho rằng hai hệ này hoạt động ngược chiều: dopamine thúc đẩy hành động ngay lập tức, trong khi serotonin đóng vai trò kiềm chế và điều chỉnh.

Nghiên cứu mới, do Viện Khoa học Thần kinh Wu Tsai thuộc Stanford thực hiện, là thử nghiệm trực tiếp đầu tiên nhằm kiểm tra hai giả thuyết này trong cùng một mô hình sinh học.

Theo dõi đồng thời dopamine và serotonin trong não

Nhóm nghiên cứu đã phát triển mô hình chuột biến đổi gen cho phép ghi nhận và điều khiển đồng thời cả hệ dopamine và serotonin trong cùng một cá thể đang học tập.

Các tín hiệu thần kinh được quan sát tại nhân accumbens, một vùng não thuộc hệ viền, đóng vai trò quan trọng trong động lực, cảm xúc và xử lý phần thưởng.

Khi chuột học cách liên kết tín hiệu âm thanh – ánh sáng với phần thưởng đường, dopamine tăng mạnh khi phần thưởng xuất hiện, trong khi serotonin giảm xuống rõ rệt. Điều này cho thấy hai hệ không song hành, mà biến động theo hướng đối lập.

Cả hai hệ đều cần thiết cho việc học

Khi các nhà khoa học sử dụng công nghệ optogenetics để làm gián đoạn hoạt động của từng hệ thần kinh, kết quả cho thấy:

Chặn cả dopamine lẫn serotonin khiến chuột không thể học mối liên hệ giữa tín hiệu và phần thưởng.

Khôi phục chỉ dopamine hoặc chỉ serotonin cũng không đủ để học tập diễn ra bình thường.

Chỉ khi cả hai hệ cùng hoạt động, quá trình học dựa trên phần thưởng mới được phục hồi.

Điều này cung cấp bằng chứng rõ ràng cho giả thuyết đối nghịch: dopamine và serotonin không thay thế nhau, mà cân bằng lẫn nhau để tạo ra hành vi học tập hiệu quả.

Dopamine là “ga”, serotonin là “phanh”

Dựa trên kết quả nghiên cứu, nhóm tác giả đề xuất mô hình trực quan: dopamine hoạt động như bàn đạp ga, thúc đẩy hành vi khi kết quả tốt hơn kỳ vọng; serotonin đóng vai trò phanh, giúp não trì hoãn phản ứng, đánh giá bối cảnh và cân nhắc hậu quả dài hạn.

Học tập hiệu quả không đến từ việc chỉ “tăng động lực”, mà từ sự phối hợp chính xác giữa thúc đẩy và kiểm soát.

Ý nghĩa đối với rối loạn tâm thần

Phát hiện này có ý nghĩa quan trọng đối với nhiều bệnh lý thần kinh – tâm thần như nghiện chất, trầm cảm, tâm thần phân liệt hay Parkinson. Ví dụ:

Trong nghiện, dopamine quá nhạy trong khi serotonin suy giảm có thể dẫn đến hành vi tìm kiếm phần thưởng cưỡng bức.

Trong trầm cảm, mất cân bằng giữa hai hệ có thể làm suy giảm động lực và khả năng lập kế hoạch dài hạn.

Nghiên cứu được công bố trên Nature cho thấy các chiến lược điều trị trong tương lai có thể cần điều chỉnh đồng thời cả dopamine và serotonin, thay vì chỉ tập trung vào một hệ đơn lẻ.

Kết luận

Nghiên cứu từ Stanford cung cấp bằng chứng trực tiếp rằng dopamine và serotonin hoạt động như hai lực đối nghịch nhưng bổ sung, cùng nhau định hình cách não bộ học từ phần thưởng. Thay vì là “chất vui” hay “chất buồn”, chúng là các bộ điều chỉnh tinh vi của hành vi, và chỉ khi được cân bằng đúng mức, não bộ mới học tập và thích nghi hiệu quả.

Nguồn

Opponent control of reinforcement by striatal dopamine and serotonin
(Nghiên cứu kiểm tra tương tác đối lập giữa dopamine & serotonin trong việc điều chỉnh học tập/huấn luyện phần thưởng)

Tác giả chính:

Daniel F. Cardozo Pinto, Matthew B. Pomrenze, Michaela Y. Guo, Gavin C. Touponse, Allen P. F. Chen, Brandon S. Bentzley, Neir Eshel, Robert C. Malenka

Nơi công bố:

Nature (2024)

DOI: 10.1038/s41586-024-08412-x