Spiegel phỏng
vấn nhà công nghệ tiên phong David
Gelernter:
Hiếu Tân dịch
Cuộc chiến thắng của Watson
trong trò chơi Jeopardy nói với chúng ta điều gì? Không có gì nhiều, David
Gelernter, nhà khoa học máy tính tiên phong và giáo sư đại học Yale nói.
Spiegel trò chuyện với Gelernter về viễn cảnh của việc đạt được ý thức nhân tạo
và niềm tin rằng có thể bảo toàn đời sống vĩnh cửu trong một ổ cứng.
1.
Tình yêu ngoài tầm của Watson
SPIEGEL: Thưa tiến sĩ Gelernter nhà báo Mỹ Ambrose
Bierce đã mô tả cái từ chúng ta đang tìm là “một chứng điên nhất thời có thể
được chữa trị bằng hôn nhân.” Ông có biết điều ấy nghĩa là gì không?
Gelernter: Tôi không biết.
SPIEGEL: Đó là tình yêu. Nó là một câu hỏi từ show
truyền hình Jeopardy, và siêu máy tính IBM
Watson không khó khăn tìm được đáp án này. Vậy điều ấy có nghĩa là
Watson biết tình yêu là gì không?
Gelernter: Anh
ta không có những ý
tưởng mơ hồ. Lĩnh vực trí tuệ nhân tạo thậm chí chưa bắt đầu đề cập đến vấn đề
những xúc cảm được biểu thị trong nhận thức ra sao, cái gì làm nên một tín
ngưỡng và vân vân. Vấn đề là, tôi không chỉ suy nghĩ bằng trí óc. Tôi nghĩ bằng
cơ thể tôi cùng với trí óc tôi. Không có những cái như tình yêu nếu không có
nguồn vào, đầu ra, phản xạ và đáp ứng
của cơ thể. Như vậy tình yêu vượt ra ngoài Watson.
SPIEGEL: Vậy tại sao Watson vẫn chơi tốt ở Jeopardy?
Gelernter: Bởi vì việc chơi Jeopardy không cần đến cơ
thể. Anh không cần hàm ý gì hay tin vào một điều gì khi anh nói. Trò chơi này
đủ hời hợt để một thực thể không có cảm xúc, không cảm giác và không bản ngã có
thể thắng được.
SPIEGEL: Tuy nhiên, các đấu thủ của Watson, các kiện
tướng của mọi thời Ken Jennings và Brad Rutter nói trong cuộc phỏng vấn
rằng họ có cảm giác họ đang đấu với một con người. Làm sao chúng ta có thể đi
đến chỗ coi Watson ngang tầm với chúng ta?
Gelernter: Tôi thậm chí coi con vẹt mà tôi yêu ngang tầm
với tôi (Cười và chỉ vào con vẹt.) Nhưng nói nghiêm chỉnh, tôi thà chuyện gẫu
với Watson còn hơn với một vài người trong khoa tôi ở Yale. Mọi đứa trẻ có con
gấu nhồi bông ngay lập tức nhân cách hóa con gấu nhồi bông. Chúng ta muốn thấy
hình ảnh của chúng ta, sự phản chiếu của chúng ta. Nhân cách hóa là một sức đẩy
mạnh mẽ của con người. Bởi vậy chúng ta không thấy vướng víu gì khi gọi Watson
là “anh ta” Đó là một đáp ứng bình thường của con người.
SPIEGEL: Watson đã đánh bại Jennings và Rutter trong cuộc thi gần đây dễ
dàng một cách đáng kinh ngạc. Nếu không phải là giống như con người, liệu
Watson có thể nào ít nhất nói với chúng ta điều gì đó về trí óc con người?
Gelernter: Watson không được chế tạo ra để nghiên cứu về
trí óc con người. Và người của IBM không tuyên bố rằng họ đã giải quyết được
mọi vấn đề về nhận thức. Wastson được chế tạo ra để thắng trò chơi Jeopardy. Có
thế thôi. Để thực hiện mục đích đó, nó đang tiến đến chiến lược lập trình tương
đương. Chiến lược này nói dứt khoát: quên bộ não đi. Vấn đề là chúng ta có thể
khai thác năng lượng thô của máy tính theo cách sao cho chúng ta có thể tạo ra
một cái gì đó có khả năng tranh đua với một con người không? Kết quả là một vật
thể công nghệ phi thường mà - không giống máy tính chơi cờ IBM Deep Blue - có
những hàm ý chủ yếu về trí tuệ nhân tạo ứng dụng.
Kỳ sau:
Bài liên quan: Năm 2045: năm con người trở thành bất tử (5)
http://www.vanchuongviet.org/vietnamese/tulieu_tacpham.asp?TPID=15207&LOAIID=34&TGID=1303
2:
Máy tính không biết nỗi
đau là gì.
SPIEGEL: Nhưng ông có thể đi đến chỗ gọi một chiếc máy
như thế là “thông minh” không?
Gelernter: Vấn đề là bạn sẵn lòng nông cạn đến mức nào
với định nghĩa “trí thông minh.” Khi chúng ta nghĩ về nó một cách nghiêm túc,
trí thông minh hàm ý một bản ngã có tính thông minh, một thực thể có thể cảm
thấy những ý nghĩ của nó, nó ý thức được sự thật là nó đang suy nghĩ và nó biết
rằng nó đang biểu lộ trí thông minh. Trong thiết kế Watson không có cái gì như
thế.
SPIEGEL: Nhưng chúng ta hãy giả định rằng chúng ta bắt
đầu nạp thơ vào Watson thay vì những cuốn từ điển bách khoa. Trong thời gian
vài năm thậm chí nó có thể nói về cảm xúc. Liệu đó có phải là một bước tiến
trên con đường ít ra cũng bộc lộ hành vi giống-conngười không?
Gelernter: Vâng. Tuy nhiên, vực thẳm giữa hành vi
giống-conngười và hành vi con người là vô cùng lớn. Nạp thơ vào Watson thay vì
từ điển bách khoa sẽ không ích gì. Nạp Keat vào anh ta, và anh ta sẽ đọc “Trái
tim tôi nhức nhối, và một nỗi tê tái đang ngủ mơ màng làm đau các giác quan
tôi.” Cái đó được cho là có nghĩa quái quỉ gì? Khi một nhà thơ viết “trái tim
tôi nhức nhối”, đó là một hình ảnh, nhưng nó bắt nguồn từ một cảm giác thể chất
có thực. Bạn cảm thấy một cái gì đó ở giữa lồng ngực bạn. Hay lấy “một nỗi tê tái
đang ngủ mơ màng làm đau các giác quan tôi.” Watson không thể biết ngủ mơ màng
là cái gì bởi vì anh ta không bao giờ buồn ngủ. Anh ta không biết đau là cái
gì. Anh ta không có chỗ nào bấu víu vào thơ cả. Tuy nhiên, anh ta có thể thắng
tại Jeopardy nếu phạm vi câu hỏi là các nhà thơ Lãng mạn Anh. Có khi anh ta còn
làm tốt hơn nhiều so với phần lớn những đấu thủ là người, bằng cách không chỉ
nói Keat đã viết câu thơ này mà còn giải thích những tham khảo. Có rất nhiều dữ
liệu liên quan đến bất kỳ loại học vấn nào hoặc lời khẳng định nào, mà một máy
có thể xử lý rất tốt. Nhưng nó là đồ giả mạo.
SPIEGEL: Trong bộ não người có cái gì đặc biệt mà
chiếc máy đó không thể sao chép?
Gelernter: Bộ não khác hoàn toàn với một chiếc máy. Vật
lý và hóa học là cơ sở cho những hoạt động của nó. Bộ não chuyển những tín hiệu
từ nơ ron này đến nơ ron khác bằng cách sử dụng một số dẫn truyền thần kinh
khác nhau. Nó được làm từ các tế bào có những đặc tính nhất định, được xây dựng
từ những protein nhất định. Nó là một thứ cực kỳ phức tạp của sinh học. Máy
tính thì lại khác, nó chỉ là chiếc máy điện tử làm bằng các bán dẫn và những
thứ lặt vặt khác. Tôi không thể sao chép bộ não vào một con chip cũng như tôi
không thể sao chép nước cam vào một con chip. Đơn giản vì nước cam không cùng
loại với một con chip.
SPIEGEL: Ông có nghiêm túc không khi tuyên bố rằng một
cái máy không thật sự có khả năng suy nghĩ đến khi nào nó có thể mơ mộng và ảo
giác?
Gelernter: Hoàn toàn nghiêm túc. Chúng ta trải qua sự
dao động giữa các trạng thái tinh thần khác nhau nhiều lần trong một ngày, và
bạn không thể hiểu được trí tuệ nếu không hiểu cái phổ này. Chúng ta có nhận
thức rộng, năng lượng cao, mức độ tập trung cao, chúng liên hệ với những khả
năng phân tích. Và ở đầu kia của phổ, chúng ta mệt mỏi, những ý nghĩ của chúng
ta trôi dạt. Trong trạng thái đó, những ý nghĩ của chúng ta được sắp xếp một
cách khác. Chúng ta bắt đầu liên tưởng tự do. Lấy ví dụ Rilke: Bất thính lình
vụt đến với ông [cái ý tưởng] đường bay của một con chim én trên bầu trời chạng
vạng giống như một vết rạn trong chiếc ấm pha trà. Nó là một hình ảnh rất lạ
nhưng là một hình ảnh gây ấn tượng mạnh. Chắc chắn không có ai trước đó đã từng
nói như vậy. Loại tương tự mới và hình ảnh mới này gợi sáng tạo, nhưng cũng làm
nên những thấu hiểu khoa học. Ở đây cảm xúc liên quan rất nhiều. Tại sao bạn
kết hợp một con chim đang bay với một đồ sứ có vết rạn? Bởi vì, ít nhất trong
tâm trí Rilke, chúng gắn với một cảm xúc tương tự.
SPIEGEL: Nhưng chúng ta chắc chắn có thể suy nghĩ mà
không cần phải thi vị như vậy.
Gelernter: Đúng, Ở đầu trên của phổ, khi những ý nghĩ
của tôi được sắp xếp bởi các quy tắc logic quy nạp, các tương tự không đóng vai
trò gì. Tôi có những giả thuyết, và tôi nỗ lực theo cách của tôi để đi đến
những kết luận. Loại thông minh đó không cần những cảm xúc, và nó không cần một
cơ thể. Nhưng nó cũng hầu như không quan trọng đối với con người. Chúng ta suy
nghĩ theo cách phân tích, thuần logic, chỉ vào khoảng zêrô phần trăm thời gian
của chúng ta. Tuy nhiên, khi tôi đang suy nghĩ một cách sáng tạo, khi tôi đang
hư cấu những tương tự mới, tôi không thể làm điều đó mà không có năng lực xúc
cảm. Cơ thể có xu hướng vào cuộc, nó tạo ra năng lượng thúc đẩy quá trình đó
bằng những cảm xúc sinh sôi.
SPIEGEL: Nhưng ngay cả Watson chẳng bao lâu nữa cũng
có thể đến được những tương tự thú vị. Chỉ cần đưa anh ta đọc những quyển sách
thích hợp.
Gelernter: Có thể chế tạo một chiếc máy có khả năng làm
cái gì đó giống như là sáng tạo, thậm chí một chiếc máy có thể có ảo giác.
Nhưng nó không hề giống chúng ta. Nó sẽ luôn luôn là đồ giả, đồ mã. Như vậy,
hoàn toàn có khả năng chiếc “Watson 2050” sẽ thắng trong một số cuộc thi thơ.
Nó có thể viết một bài xon nê tuyệt diệu mà tôi thấy đẹp và xúc động, và trở
thành bài thơ nổi tiếng thế giới. Nhưng điều đó có nghĩa là Watson có một trí
tuệ, một cảm giác về bản ngã không? Không, tất nhiên không. Chẳng có ai thông
thạo chuyện này.
SPIEGEL: Ông có chắc không?
Gelernter: Không
có gì bên trong.
SPIEGEL: Vậy làm sao ông biết được, rằng có một ai đó
thông thạo mọi chuyện bên trong một người khác?
Gelernter: Tôi biết tôi là cái gì. Tôi là một con người.
Nếu anh cũng là một con người, tôi tin là anh thông minh. Và không phải vì anh đỗ
một kỳ thi, không phải vì anh cho tôi thấy anh có thể làm các phép tính và dịch
tiếng Latin. Anh có thể ngủ say, một ai đó có thể hỏi, “anh ấy có thông minh
không?” Và tôi sẽ nói “Có, tất nhiên. Anh ấy là một con người.” Trí thông minh
duy nhất mà một người từng trực tiếp cảm nhận là trí thông minh của người ấy.
Không có một trắc nghiệm khách quan nào cho trí thông minh trong những người
khác. Hành vi có thể quan sát thấy không nói với anh trong đó có gì. Cách duy
nhất chúng ta có thể tự tin mà gán cho trí thông minh là bằng cách nhìn một tạo
vật giống như chúng ta.
3:
“Các nhà khoa học sẽ không bao
giờ tái tạo được một trí tuệ con người.”
SPIEGEL: SPIEGEL: Ở Lausanne, Thụy sĩ có một phòng thí nghiệm trong đó một nhóm các nhà khoa học đang cố gắng
tạo ra một bộ não sinh học, tất cả mọi chi tiết, mỗi lần một nơ ron, trong một
siêu máy tính. Hy vọng tạo ra một bộ não người hoàn chính trong vòng một thập
niên. Liệu cái đó có phải là một “tạo vật giống chúng ta” không?
Gelernter: Họ có
thể tạo ra một bộ não giả vô cùng chính xác. Họ có thể tiên đoán được hành vi
của bộ não ấy đến mức truyền các tín hiệu. Nhưng họ sẽ không tạo ra một trí tuệ
khá hơn một cơn cuồng phong giả tạo ra một cơ cuồng phong.
SPIEGEL: Các nhà khoa học khác còn lạc quan hơn
nhiều. Bất chấp mọi trở ngại, họ nói, số lượng bán dẫn trong một con chip tăng
theo hàm số mũ sẽ cho chúng ta những khả năng
thật sự vô tận. Nếu chúng ta kết nối những số lượng khổng lồ các con
chip máy tính một cách thích hợp và giao cho nó một nhiệm vụ thích hợp, thì tại
một điểm nào đấy ý thức sẽ hiện ra.
Gelernter: Không thể tạo ra các trạng thái tinh thần
bằng cách viết phần mềm - cho dù nó đạt đến độ tinh vi nào đi nữa. Nếu một máy
tính đơn giản không thể tạo ra được nước cam, thì một máy tính phức tạp hơn nó
nhiều lần cũng không tạo ra được. Những con chip máy tính chỉ là chất nền sai,
chất liệu sai cho ý thức. Vậy liệu có thể có phép lạ nào chăng nếu bạn tập hợp
thật nhiều chúng lại? Có thể. Nhưng tôi không có lý do gì để tin rằng một phép
lạ như thế sẽ xảy ra.
SPIEGEL: Giả sử chúng ta có thể làm ra được một đồ giả
thật sự tốt, một rô bôt có thể giả vờ là ý thức một cách rất thuyết phục - liệu
chúng ta có nhận ra là nó không phải là vật thật hay không?
Gelernter: Nó đã không tạo ra sự khác biệt nào đối với
chúng ta. Chỉ cần lấy những rô bôt ở Iraq
và Afghanistan
nơi chúng đi dò mìn vân vân. Những người ở tuyền đầu trở nên gắn bó tình cảm
với những rô bôt của họ, họ buồn khi chúng bị phá hủy. Và năm mươi năm nữa kể
từ nay, rô bôt sẽ tốt hơn rât nhiều. Trên thế giới có rất nhiều người cô đơn.
Như vậy bây giờ họ có rô bôt, nó quanh quẩn bên họ suốt ngày, trò chuyện với
họ. Chắc chắn họ sẽ gắn bó với chúng. Rô bôt sẽ biết tất cả về họ. Rô bôt sẽ có
khả năng nói những câu như, “Sáng nay bà cảm thấy thế nào? Tôi thấy lưng bà hôm
qua bị đau phải không” Người ta sẽ có tình cảm kiểu con người với rô bôt không?
Chắc chắn có. Và khi đó câu hỏi trở thành: theo nghĩa này, họ đang bị lừa gạt,
vậy chuyện đó có quan trọng gì không? Câu trả lời là, ta biết rằng việc tìm bầu
bạn trên thế giới này vốn khó khăn, có lẽ trong thực tế chuyện đó cũng không
quan trọng gì lắm. Tuy nhiên, nó chắc chắn quan trọng về mặt triết học. Nếu bạn
quan tâm về vấn đề con người là gì, thì rô bôt không thể nói cho bạn biết.
SPIEGEL: Sự thể có thể thay đổi nếu ta cho nó một thân
thể nửa hoàn chỉnh, trang bị bằng những cảm biến giúp cho nó cảm giác được mọi
vật và thám hiểm môi trường xung quanh như con người đã làm.
Gelernter: Trong
trường hợp đó máy sẽ có khả năng làm giả tính người hiệu quả hơn nhiều. Nhưng
thân thể giả gắn vào một máy tính vẫn không tạo ra những cảm giác thực. Nếu bạn
đá phải một cái gì đó, não bạn sẽ ghi nhận cái mà chúng ta gọi là đau. Nếu bạn
nghĩ sáng mai sẽ xảy ra một việc tốt lành, cơ thể sẽ đáp ứng bằng cách cảm thấy
dễ chịu, khi đó trí óc cảm thấy thoải mái hơn và vân vân. Vòng phản hồi kín này
là rất quan trọng đối với hành vi của con người. Còn đối với một cơ thể giả, nó
vẫn chỉ là chuyển đổi hai chiều lên xuống của điện áp mà thôi.
SPIEGEL: Nhà
khoa học máy tính Hoa kỳ Ray Kurzweil lập luận rằng bản thân Internet có thể
đang mấp mé trở thành siêu thông minh, chỉ vì nó sẽ có năng lực tính toán vượt
xa mọi tưởng tượng. Và niềm tin của ông ấy đang trở thành phổ biến. Tại sao
những ý tưởng ấy lại hấp dẫn như vậy.
Gelernter: Bởi vì tạo ra trí tuệ là hòn đã triết học của
Thời đại Công nghệ Số. Trong thời Trung Cổ, các nhà giả kim cố gắng tạo ra
vàng. Nay họ chuyển sang trí tuệ. Đừng hiểu sai tôi: Họ sắp sửa tạo ra rất
nhiều khoa học thú vị trên con đường đó. Nhưng họ sẽ không tạo ra được trí tuệ.
4. “Nếu anh chết, thì anh đã chết”
SPIEGEL: Cái gọi là Phong trào Kỳ dị tiên đoán
sự tiến bộ của máy móc có trí thông minh cao sẽ có một ngày thậm chí trở thành
bộ phận của cơ thể chúng ta.
Gelernter: Chúng ta đang được hiến nhiều cách hơn bao
giờ hết để hủy diệt loài người bằng cách phủ nhận ý nghĩa của tính người. Trong
giới khoa học viễn tưởng có người nói “tôi sẽ sống mãi đến chừng nào tôi có thể
lấy toàn bộ trạng thái tinh thần của tôi ra và nạp nó vào một máy chủ nào đó,
và sau đó tôi chết, nhưng điều đó không quan trọng nếu trí tuệ của tôi còn ở
lại đó.” Bất cứ một đứa trẻ lên hai nào cũng có thể thấy cái dở của lập luận
này: nếu anh chết, thì anh đã chết, và nếu có một bản sao hay một tỉ bản sao
của cái từng là trí tuệ của anh trước khi anh chết, thì cũng có gì là quan
trọng. Nó không quan trọng gì với anh nữa. Anh vẫn chết. Một loại suy triết học
lớn của nửa sau thế kỷ 20 là trí tuệ là thuộc bộ não cũng như phần mềm là thuộc
máy tính. Nhưng điều ấy là vớ vẩn. Không có sự tương tự giữa bộ não và phần
mềm.
SPIEGEL: Tại
sao không?
Gelernter: Nếu bạn có một phần mềm, bạn có thể sao ra
bao nhiêu bản tùy thích. Bạn có thể đưa nó vào một triệu máy tính, và nó luôn
luôn chính xác là phần mềm đó. Còn trí tuệ thì hoạt động chính xác trên một cái
nền. Bạn không thể đánh đổi trí tuệ vào một phương tiện lưu trữ nào rồi cho nó
hoạt động trở lại sau khi đã giữ nó ngoài mạng.
SPIEGEL: Theo giả thuyết, điều gì sẽ xảy ra nếu ta có
thể chuyển được bộ não của một người vào thân thể của một người khác?
Gelernter: Sẽ không còn là não nữa. Khi bạn lấy bộ não
ra khỏi một người và đưa nó vào đầu của người khác, trí tuệ mà bạn có trước đó
sẽ mất đi bởi vì trí tuệ đó là một phần của một cơ thể và đáp ứng với cơ thể
đó. Theo quan điểm y học, vấn đề là nếu bộ não là một cơ quan đủ mềm dẻo để tự
nó tái hòa hợp với một loại đầu vào khác từ một thân thể khác. Nhưng trí tuệ
ban đầu chắc chắn sẽ mất.
SPIEGEL: Giả sử những cách nhìn phổ biến về Trí tuệ
Nhân tạo không trở thành sự thật trong tương lai có thể thấy trước, ông thấy
việc nghiên cứu Trí tuệ Nhân tạo sẽ đi về đâu trong thập niên tới?
Gelernter: Tôi hy vọng rằng triết học về trí tuệ và khoa
học nhận thức sẽ phát triển một lý thuyết rất tinh vi về cách hoạt động của trí
tuệ. Triết học về trí tuệ đã bị lóa mắt bởi máy tính, nó đang đi theo một con
đường sai lầm. Chúng ta phải rũ bỏ cái ám ảnh vớ vẩn với máy tính, đã gây ra vô
vàn thiệt hại. Những ai lo ngại về cái Kỳ dị nên quay trở lại đọc Nietzsche. Họ
nên cố gắng hiểu Kafka một cách nghiêm túc. Họ nên đọc một nhà thơ như William
Wordsworth. Trong một cố gắng hoàn toàn biệt lập, Trí tuệ Nhân tạo sẽ tạo ra ngày
càng nhiều máy móc mạnh. Chúng ta sẽ dựa rất nhiều trên chúng. Chúng sẽ luôn
luôn sửa chữa những vấn đề và trả lời các câu hỏi cho chúng ta. Không ai sẽ
khẳng định rằng chúng có trí tuệ, ít nhất là tất cả những người xây dựng lên
các chương trình đó.
SPIEGEL: Một trong những trợ thủ mạnh mẽ đó có thể sẽ
là hậu duệ của Watson. Chúng ta hãy giả sử nó teo lại bằng kích thước một hạt
đậu Hà Lan, và có thể cắm nó vào não chúng ta. Liệu có phải tuyệt vời không khi
có trong tay tất cả kiến thức đó, lại ở bên trong cơ thể bạn?
Gelernter: Tôi có thể đã có sẵn tất cả kiến thức của
Watson rồi, bằng cách chỉ mở laptop của tôi ra. Có quan trọng gì cái việc tôi
có thể có câu trả lời không phải trong 10 giây mà trong 10 micro giây? Nó thật
sự phụ thuộc vào việc tôi xác định như thế nào tính nguyên vẹn của tôi như một
con người. Tôi có thể truy cập trực tiếp hơn vào một triệu sự kiện rời rạc hoàn
toàn vô nghĩa nếu tôi cấy một con chip Watson rồi đi thi Jeopardy. Tôi có thể
thắng cuộc thi Jeopardy. Tuy nhiên, nó không cho tôi hạnh phúc, sự thỏa mãn,
cảm giác chiến thắng, cảm giác về tài nghệ của mình.
SPIEGEL: Ông
không cảm thấy bị cám dỗ kiếm cho mình một Watson à?
Gelernter: Có chứ. Đó là một vật thể công nghệ rất
tuyệt, rất lý thú. Tôi không muốn lấy bất cứ thứ gì ra khỏi nó. Nó đặt AI (Trí
tuệ Nhân tạo) trên con đường dẫn đến
việc tạo ra một công nghệ quyến rũ. Nó sử dụng đúng thứ mà chúng ta đang giàu
có, tức là sức mạnh máy tính thuần túy nguyên thủy, để tạo ra những câu trả lời
cực kỳ phức tạp cho những câu hỏi phức tạp. Chúng ta cần cái khả năng đó, và
Watson có thể làm được.
SPIEGEL: Ông có
chịu đổi con vẹt của ông lấy Watson không, nếu ông phải lựa chọn?
Gelernter: Không đời nào tôi đổi con vẹt của tôi lấy bất
cứ một phần mềm nào. Nhìn nó kìa. Nó có một cái mặt. Nó có nụ cười nở rộng trên
cái mỏ của nó. Nó là một tạo vật có tình cảm, có những mối quan tâm và là một
thành viên của gia đình. Bạn phải có cái gì hơn Watson rất nhiều tôi mới chịu
đổi con vẹt của tôi.
HT 24022011
Không có nhận xét nào:
Đăng nhận xét