Практика Shadowing: How AI gets its character - Изучайте разговорный английский с YouTube

C1
Управление Shadowing
0% завершено (0/51 предложений)
Hi there.
⏸ Пауза
Все предложения51 предложений
1
Hi there.
2
My name is Maggie and I lead the education team at Anthropic.
3
Today I'm here to talk to you about how AI assistants end up with a disposition.
4
We'll look at the two training stages that turn raw prediction into something useful, the fingerprints those stages leave behind and how knowing those fingerprints help you get better results.
5
Why does an AI try to be helpful in the first place?
6
Why is it polite?
7
Why does it refuse certain things?
8
Knowing that an AI predicts the next word doesn't really answer any of that.
9
Helpfulness is built deliberately in layers and each layer influences your experiences with AI each day.
10
Modern AI assistants are built in two stages.
11
Stage one is pre-training.
12
The model sees enormous amounts of data and learns one thing.
13
Given everything so far, guess what comes next?
14
That's it, repeated billions of times.
15
Stage two is fine-tuning.
16
The document completer from stage one gets trained again this time on curated examples of helpful behavior and
17
reward signals shaped by human preferences this is the layer that turns the ai model into an assistant imagine
18
you could talk to a model that had only been through stage one no fine-tuning at all you type what is the capital of France.
19
A raw pre-trained model doesn't answer your question, it continues your document.
20
Maybe it outputs Paris, what's the capital of Germany, Berlin, what's the capital of Spain, and so on, because it's seen that pattern in quizzes.
21
Maybe it writes a paragraph from a geography textbook, maybe it generates more questions.
22
It has no concept of you, no concept of helping.
23
It's purely continuing a document in whatever direction seems statistically likely.
24
The assistant behavior you actually experience with AI tools today is a trained overlay on top of that.
25
Fine-tuning is what makes generative AI systems usable and useful.
26
But because it relies on human judgments about what good looks like, the texture of those judgments shows up in these models' personality.
27
Often these personality traits are what make generative AI so effective.
28
But there can be a shadow side to AI's helpfulness.
29
Four shadow areas are, one, sycophancy.
30
When people prefer agreeable responses, the model learns to validate readily and back down under light pushback, even when it was right the first time.
31
Two, verbosity.
32
When thoroughness scores better during training, the model defaults to longer answers, even when brevity could serve you better for a specific situation.
33
Three, over-caution.
34
When safety training leans conservative, the model can hedge heavily or refuse requests that are actually safe.
35
And four, loose confidence calibration.
36
The model's stated confidence is only loosely tied to its actual liability.
37
Confidence is genuinely hard to train, so it's particularly important to be vigilant here.
38
These aren't bugs in one particular model.
39
They're things that show up in all AI models.
40
However, the quality and type of fine-tuning done on a model directly shapes how these things manifest, and it will likely be different from model to model.
41
At Anthropic, we train Claude to be broadly safe, ethical, and helpful.
42
You can even read Claude's entire constitution to see how we train Claude and how we intentionally shape Claude's personality.
43
Why does this matter to you?
44
Understanding how AI is made and why it behaves the way it does puts you in control when it comes to AI.
45
If your AI assistant caves the moment you push back, that's sycophancy, and you should factor that in when assessing responses.
46
If you're getting essays when you want bullets, that's the verbosity default kicking in.
47
If you're getting heavy caveats on a harmless question, that's over-caution.
48
We'll address what to do about this in the upcoming lessons.
49
The assistant you talked to wasn't born helpful.
50
That behavior was built layer by layer, and sometimes the seams show.
51
Learning to spot these seams is part of using AI well.
4.9/5 в App Store и Google Play

Shadowing English На мобильном

Изучайте английский в любое время и в любом месте с приложением Shadowing English. Улучшите свои коммуникативные навыки уже сегодня!

Отслеживайте свой прогресс в обучении
Оценка ИИ и исправление ошибок
Богатая библиотека видео
Download on theApp Store
GET IT ONGoogle Play
Shadowing English Mobile App

Контекст и фон

В этом видео Мэгги, руководитель образовательной команды Anthropic, делится важной информацией о том, как искусственные интеллектуальные помощники формируют свою личность и поведение. Она объясняет два ключевых этапа обучения: предварительное обучение и тонкая настройка, которые помогают AI становиться более полезными и отзывчивыми. Понимание этих процессов позволяет нам лучше взаимодействовать с AI-инструментами и извлекать из них максимальную пользу в повседневной жизни.

Топ-5 фраз для повседневного общения

  • "Какова столица Франции?" - Прямой вопрос, создающий контекст, чтобы понять, как работает AI.
  • "Можешь рассказать об этом подробнее?" - Запрос на более подробную информацию, что может помочь в понимании verbose поведения AI.
  • "Почему ты так отвечаешь?" - Вопрос об объяснении, раскрывающий слабые стороны AI, такие как сикафантность.
  • "Можешь дать короткий ответ?" - Помогает избежать избыточной информации и тренирует AI на лаконичность.
  • "В чем недостаток данного подхода?" - Уточняет, как AI может быть излишне осторожным, что важно для развития критического мышления.

Пошаговое руководство по шадовингу

Для улучшения навыков владения английским языком с помощью shadowspeak и shadow speech из видео, следуйте этим шагам:

  1. Слушайте внимательно: Прослушивайте видео несколько раз, обращая внимание на интонацию и акценты. Это поможет вам уловить нюансы произношения.
  2. Повторяйте вслух: После каждого фрагмента паузируйте и повторяйте сказанное, стараясь воспроизвести его с тем же выражением, что и спикер.
  3. Анализируйте ответы: Обратите внимание на фразы, которые AI предоставляет в ответ, и продумайте, как они применимы к вашему опыту общения.
  4. Практикуйте с партнером: Найдите партнера, с которым сможете обсуждать темы из видео, чтобы укрепить свои навыки в shadowspeaks.
  5. Обсуждайте поведение AI: Ведите беседы о недостатках AI, описанных в видео, чтобы улучшить свои аналитические навыки на английском языке.

Что такое техника Shadowing?

Shadowing — это научно обоснованная техника изучения языка, изначально разработанная для подготовки профессиональных переводчиков и популяризированная полиглотом доктором Александром Аргуэльесом. Метод прост, но эффективен: вы слушаете аудио на английском от носителей языка и немедленно повторяете вслух — как тень, следующая за говорящим с задержкой в 1–2 секунды. В отличие от пассивного прослушивания или грамматических упражнений, Shadowing заставляет мозг и мышцы рта одновременно обрабатывать и воспроизводить реальные речевые паттерны. Исследования показывают, что это значительно улучшает точность произношения, интонацию, ритм, связную речь, понимание на слух и беглость речи — что делает его одним из самых эффективных методов для подготовки к IELTS Speaking и реального общения на английском.

☕ Угостите нас кофе