Luyện nói tiếng Anh bằng Shadowing qua video: SANA-Video: Efficient Video Generation with Block Linear Diffusion Transformer, [ICLR 2026, Oral]

Chọn chế độ luyện tập

Mỗi chế độ mở một phòng luyện tập toàn màn hình.

125 câu

Nếu các câu quá ngắn hoặc quá dài, hãy bấm Edit để chỉnh sửa.

Thank you, Luke, for the amazing opening.

Cảm ơn bạn, Luke, vì phần mở đầu tuyệt vời.

So good morning and thanks for having me.

Chào buổi sáng và cảm ơn vì đã mời tôi tham dự.

My name is Jun Song.

I'm from the University of Hong Kong and NVIDIA.

It's really my great honor to present this work, SANA Video, for our SANA team.

So currently, generative AI is evolving rapidly with model sizes growing larger and larger.

At At the same time, AVIDIA GPUs are becoming increasingly powerful.

We can foresee that the future visual generative models will demand even more computational resources.

So actually, generating images and videos are significantly more computationally demanding than processing just text.

For example, the inference for Flux or CogVideoX exceed the Lama 3,

and an order of magnitude higher than the VIT models.

So they are restricted to cloud deployment and remain impractical for consumer GPUs or age devices.

So actually, efficiency is a forever topic.

So far, we have explored several directions for efficient video generation.

First, in Sanaa, we tried to reduce input tokens by using our self -developed deep compression autoencoder, DCAE.

We also try to use linear tension to replace Softmax 1, enhance the architectural efficiency of the model.

And we also already explored inference step distillation in Sanaa's spring project.

The fewer the inference steps, the faster the speed.

So the last part is what we are going to talk about today, the hybrid AR plus diffusion for long video generation.

Actually, we can generate video block by block causally and diffuse within the block.

So video generation requires much more computation than images.

SANA can generate one image within just one second.

However, generating a five -second video with one model actually takes nearly 30 minutes.

So to boost the video generation efficiency, we focus on three key technical areas, the high ratio VAEs and leaning attention mechanisms,

especially optimized for video tasks.

Crucially, the block KV cache based on leaning attention enables the generation of much longer videos.

So to get a video generation model, actually, we have two ways to go to try to choose.

First, we can just train from scratch.

But only when we have hundreds or thousands of GPUs,

like H100 GPUs, and it will take you almost several months to train one model.

như các dòng GPU H100, và bạn sẽ phải mất gần vài tháng để huấn luyện một mô hình.

And it's, of course, not affordable.

Or actually, we can start from a semantic aligned text -to -image model.

Hoặc thực tế là, chúng ta có thể bắt đầu từ một mô hình văn bản-sang-hình ảnh được căn chỉnh về mặt ngữ nghĩa.

Here we start from our SANA 1 .5, which is a 1 .6 billion parameter text -to -image model trained on our DCAE.

Ở đây, chúng ta bắt đầu với SANA 1.5, một mô hình chuyển đổi văn bản thành hình ảnh có 1,6 tỷ tham số được huấn luyện trên DCAE của chúng ta.

Actually, since our video model is based on image model, so the linear tension DIT actually is almost the same as our SANA,

but we're introducing two modules for temporal modeling, and we will talk about them later.

nhưng chúng tôi sẽ giới thiệu hai mô-đun cho mô hình hóa thời gian, và chúng ta sẽ thảo luận về chúng sau.

Finally, on the left at the top, we implement block causal linear tension module to achieve constant kv cache memory.

Cuối cùng, ở góc trên bên trái, chúng tôi triển khai mô-đun căng tuyến tính nhân quả khối để đạt được bộ nhớ đệm kv không đổi.

So for any length video generation, So first, let's talk about linear attention in video generation model.

Vì vậy, đối với việc tạo video có bất kỳ độ dài nào, trước hết hãy cùng thảo luận về cơ chế chú ý tuyến tính trong mô hình tạo video.

Actually, in video tasks, linear attention provides even more significant acceleration than in images,

as the video length and resolution are much larger.

Our results show that for long videos, SANA video is 1 .5 times faster than the one model.

And additionally, at high resolution, our linear attention is four times faster than the flash attention.

And these improvements make a long form, high resolution video generation much more practical.

However, we find that the linear attention map is far different from the softmax attention.

As you can see in this figure, the linear attention is super dense, while the softmax attention is rather sparse.

And this demonstrates that the local contacts captured by the linear tension is actually insufficient.

To enhance the temporal modeling, we introduced two key improvements.

First is the 3D rope for the linear tension and temporal convolutions.

And both are highlighted in the orange box.

While 3D rope doesn't solve the tension map sparsity problem entirely, it do help improve attention low quality.

Combined with our spatial temporal mix FFN, it significantly boosts the overall performance.

Here we have the training loss.

The green line stands for the 3D rope and the additional temporal convolution.

And to further support long video generation, we leverage the unique properties of linear attention to implement an efficient block KV cache.

So let's quickly review how this works.

In linear attention, we call it the attention map, or the state.

Trong cơ chế attention tuyến tính, chúng ta gọi đó là bản đồ attention, hay là trạng thái.

Actually, it has a fixed shape of D times D, regardless of the input sequence length.

So when processing the first block here, we obtain the state, S1.

And for the second block, the state is updated additably,

meaning that we only need to add the current block's contribution to the previous cache.

And generally for any block I,

actually the current state is updated as adding the current block contribution the KV here to the previous cache to ask.

So now let's see how we enable long video generation with block of causal linear attention.

For the first block here, the green one, we compute the state as one, shown in the green box.

After we compute first block the state, we cache it, it's shown in the red box.

Then we calculate the KV for the next block and add it to the previous one.

Here we take the cached state from block one in the red box and updates it into the block two, which is in the green color.

And the subsequent process follows the same logic.

The new state is cached, and once the next block competition is finished, they are summed together. And so on.

So, token in Valenian attention will become larger, more and more as the video length become larger and larger.

While our causal linear tension maintains a constant KV cache potentially make minute length video generation possible.

Trong khi độ căng tuyến tính nhân quả của chúng ta duy trì bộ đệm KV không đổi, điều này có thể giúp tạo ra video có độ dài nhỏ trở nên khả thi.

So here in conclusion, we can have two advantages of block linear tension.

First, we have constant memory usage regardless of the input sequence length and second we have the global history context.

Đầu tiên, chúng ta có mức sử dụng bộ nhớ không đổi bất kể độ dài chuỗi đầu vào là bao nhiêu, và thứ hai, chúng ta có ngữ cảnh lịch sử toàn cục.

So one last question is how to achieve causal FFN with temporal conf.

Vậy thì câu hỏi cuối cùng là làm thế nào để đạt được FFN nhân quả với giới hạn thời gian.

So let's take two block situation as example.

Ví dụ, hãy xem xét tình huống có hai khối.

During causal training the block one cannot foresee block two so we pad a zero token here between the two blocks.

However block two must see block one's token so that it's correct the causal modeling.

So here we catch the last token from block one as the first token in block two.

Vì vậy, ở đây chúng ta lấy token cuối cùng từ khối một làm token đầu tiên trong khối hai.

So finally the two blocks are separated by the zero padding token

Vì vậy, cuối cùng hai khối được phân tách bằng token đệm không.

which is subsequently removed to to avoid affecting the final computation.

And the block two used the last token from block one making the the causal modeling available.

So here's some results, compared to the current state -of -the -art video models, Sonar Video performs competitively on VBench,

and it takes only 18 seconds to generate a 1K resolution video on a single H100 GPU.

Here we show some examples.

Dưới đây là một số ví dụ.

On the left we have text to video examples, And on the right, we show the image to video examples.

And using SANA video as a base model, it can be applied to tasks like physical AI and real -world models.

Actually, by fine -tuning SANA video on a small data site with just a few safety steps,

we enable it to generate videos for robotic manipulation and gameplay play.

We also combine with the post -training tech in long lab, which is a three long test long method.

And this method is also accurate poster and is also from our group.

We also implement the DMD step distillation to further accelerate our model.

And finally, Sonar Video you can also generate minute -length video within just 36 seconds,

achieving 27 FPS real -time generation.

So, finally, there is one more thing.

Based on linear attention, we have much more potential applications to discover.

We believe the efficiency of linear attention

and deep compression auto encoder will facilitate streaming video generation

and also the development of long form like minute -length or even hour -length, real -world models.

And we are working on this project and we'll see if we can keep pushing the efficiency boundary.

And all of our projects, including the code and checkpoints,

100

are all open -source to encourage further exploration in efficient generative AI system.

101

So that's all for my talk today.

102

And we will have a poster session right after this aural, maybe in the afternoon.

103

Welcome everyone to discuss more.

104

Thanks so much.

105

Thank you.

106

Time for a quick question, if any.

107

Yeah, please go to the mic.

108

Thank you for your speech, and I have a question.

109

I think it's something similar to the auto -aggressive video diffusion models like cause of it

110

and something similar to the block causal linear attention you introduced.

111

So I wanted to ask what are the key differences and if we are thinking about infinite long video generation,

112

which one do you think would be better choice?

113

Thank you.

114

Thank you for your question.

115

Actually the cause V something like that, they actually perform on soft max extension.

116

So as I talked before, the soft max extension has an open square computation complexity.

117

So if you want to generate mini lens or even hour lens video, it's not possible to do it on soft max extension.

118

So if you want to generate mini lens video, so you have to keep the computation within like a sliding window or something like that.

119

So the main difference here is our linear tension has the global context.

120

It has memory from the first second to the final second.

121

So if you want to do some project or task like world model,

122

it has to be maintaining overall all the cache or the memory.

123

So I think that's the main advantages of getting attention.

124

Yeah, thank you.

125

Thank you.

Tải Ứng Dụng

Mọi thứ bạn cần để nói trôi chảy

Chấm điểm AIChấm từng câu nói

Luyện IPAThành thạo mọi âm

Từ vựngMở rộng vốn từ

Game Từ vựngHọc qua chơi

Quét QR

Download on theApp Store Get it onGoogle Play

✨ Video gợi ý

33 câu

Enhancing AV Simulation with Generative AI - DRIVE Labs Ep. 36

Daily ConversationUniversity StudentsWorking Adults

321 câu

Mixture of Experts Explained Visually: How Trillion-Parameter Models Actually Work

Daily ConversationUniversity Students

747 câu

Từ vựng và ghi chú luyện nói cho bài học này

Bài luyện nói này dựa trên video “SANA-Video: Efficient Video Generation with Block Linear Diffusion Transformer,”. Những từ được nhắc lại nhiều nhất trong bài: block, attention, model, linear, generation. Video này có 125 câu và 1634 từ để luyện shadowing. Phần lời nói dài 12:46. Người nói giữ tốc độ đều, khoảng 128 từ mỗi phút, vừa sức để nói đuổi theo. Chỉ 80% số từ nằm trong 3.000 từ tiếng Anh thông dụng nhất, nên từ vựng khá khó.

Từ vựng quan trọng trong video

15 từ đáng học trong video, kèm phiên âm và nghĩa:

Từ	Phiên âm	Nghĩa
cache danh từ	/kæʃ/	bộ nhớ đệm, vùng nhớ đệm
generate động từ	/ˈd͡ʒɛn.ə.ɹeɪt/	sinh ra, gây ra
extension danh từ	/ɪkˈstɛnʃən/	sự mở rộng
introduce động từ	/ˌɪntɹəˈdus/	giới thiệu
implement động từ	/ˈɪmpləmənt/	thực hiện, chấp hành
lens danh từ	/lɛnz/	thấu kính
rope danh từ	/ɹoʊp/	dây
sequence danh từ	/ˈsiː.kwəns/	dãy
explore động từ	/ɪkˈsploɹ/	thám hiểm
poster danh từ	/ˈpoʊstɚ/	bích chương, áp phích
automobile danh từ	/ˈɔː.tə.məˌbil/	xe hơi, ô tô
module danh từ	/ˈmɑd͡ʒul/	mô-đun, bộ phận rời
topic danh từ	/ˈtɑpɪk/	chủ đề
cloud danh từ	/ˈklaʊ̯d/	mây
encourage động từ	/ɪnˈkʌɹ.ɪd͡ʒ/	cổ vũ, khích lệ

Ngữ pháp trong video

Những cấu trúc người nói dùng nhiều nhất, kèm đúng cụm từ trong video:

Cấu trúc	Trong video
Câu bị động be + quá khứ phân từ — nhấn vào việc xảy ra, không phải người làm	are restricted · is based · are highlighted
Mệnh đề quan hệ who / which + mệnh đề — thêm thông tin về người hoặc vật	two, which is · lab, which is

Phát âm cần chú ý

Người nói dùng 4 dạng rút gọn, ví dụ doesn't, I'm, we'll. Hãy nói theo dạng ngắn đúng như bạn nghe.

Âm “sh” và “zh”: cache /kæʃ/, tension /ˈtɛnʃən/, efficiency /ɪˈfɪʃ.ən.si/, extension /ɪkˈstɛnʃən/, efficient /ɪˈfɪʃənt/
Từ dài — đặt trọng âm cho đúng: efficiency /ɪˈfɪʃ.ən.si/, contribution /ˌkɑntɹɪˈbjuʃən/, automobile /ˈɔː.tə.məˌbil/, potentially /pəˈtɛnʃ(ə)li/, mechanism /ˈmɛk.ə.nɪ.zəm/

Những âm người Việt thường gặp khó:

Cụm phụ âm cuối — đọc đủ từng âm, đừng nuốt âm cuối: efficient /ɪˈfɪʃənt/, implement /ˈɪmpləmənt/, lens /lɛnz/, boost /buːst/, sequence /ˈsiː.kwəns/
Âm /tʃ/, /dʒ/ và /ʒ/ — tiếng Việt không có, đừng đọc thành “ch” hay “gi”: generate /ˈd͡ʒɛn.ə.ɹeɪt/, module /ˈmɑd͡ʒul/, encourage /ɪnˈkʌɹ.ɪd͡ʒ/, conclusion /kənˈkluːʒən/, usage /ˈjuːsɪd͡ʒ/
Âm /æ/ — mở miệng rộng hơn âm “e”: cache /kæʃ/, enhance /ɪnˈhæns/, practical /ˈpɹæk.tɪ.kəl/, flash /flæʃ/, capture /ˈkæp.(t)ʃɚ/

Cách luyện với video này

Nghe hết video một lần, chưa cần nói, và ghi lại những từ bạn chưa biết.
Nói đuổi từng câu ở tốc độ bình thường, lặp lại mỗi câu đến khi nhịp của bạn khớp với người nói.
Ghi âm giọng mình rồi so với bản gốc, chú ý các từ như cache, generate, extension.

Phương Pháp Shadowing Là Gì?

Shadowing là kỹ thuật học ngôn ngữ có cơ sở khoa học, ban đầu được phát triển cho chương trình đào tạo phiên dịch viên chuyên nghiệp và được phổ biến rộng rãi bởi nhà đa ngôn ngữ học Dr. Alexander Arguelles. Nguyên lý cốt lõi đơn giản nhưng cực kỳ hiệu quả: bạn nghe tiếng Anh của người bản xứ và lặp lại to ngay lập tức — như một "cái bóng" (shadow) đuổi theo người nói với độ trễ chỉ 1–2 giây. Khác với luyện ngữ pháp hay học từ vựng bị động, Shadowing buộc não bộ và cơ miệng phải đồng thời xử lý và tái tạo ngôn ngữ thực tế. Các nghiên cứu khoa học xác nhận phương pháp này cải thiện đáng kể phát âm, ngữ điệu, nhịp điệu, nối âm, kỹ năng nghe và độ lưu loát khi nói — đặc biệt hiệu quả cho người luyện IELTS Speaking và muốn giao tiếp tiếng Anh tự nhiên như người bản ngữ.

Phương pháp shadowing: đọc hướng dẫn từng bước đầy đủ →

Luyện nói tiếng Anh bằng Shadowing qua video: SANA-Video: Efficient Video Generation with Block Linear Diffusion Transformer, [ICLR 2026, Oral]

Chọn chế độ luyện tập

Tải Ứng Dụng

Enhancing AV Simulation with Generative AI - DRIVE Labs Ep. 36

Mixture of Experts Explained Visually: How Trillion-Parameter Models Actually Work

MIT Introduction to Deep Learning | 6.S191

Why Memory Prices Are Crazy High

Controlled Multi-modal Image Generation for Plant Growth Modeling

Trust the Process: How to Design Teams That Actually Work

Neural Radiance Fields in 2 Minutes

How I Learned Procedural Generation

The future unfolds! How to optimize Android apps for adaptive layouts

LangChain in 5 Minutes (Explained Clearly)

What AI can (and can't) currently do in a real lab | Jennifer Doudna

NVIDIA GTC 2025 - Keynote Highlights by NVIDIA CEO Jensen Huang

Từ vựng và ghi chú luyện nói cho bài học này

Từ vựng quan trọng trong video

Ngữ pháp trong video

Phát âm cần chú ý

Cách luyện với video này

Phương Pháp Shadowing Là Gì?