Речь, создаваемая искусственным интеллектом, будет расти!
Ключевая проблема при внедрении правил достоверности заключается в том, что никто не знает, что является правдой, и любой механизм, который мы можем указать, приведет к ошибкам.
Согласование ИИ направлено на создание систем ИИ, которые мотивированы помочь человеку достичь своих целей.
Правдивость — это отдельная исследовательская проблема, отличная от объяснимости или согласованности, но между ними существует богатая взаимосвязь.
Объяснение и правда взаимосвязаны.
Цель объяснимого ИИ — создать системы, которые могут дать людям хорошее объяснение своих решений.
Системы, способные объяснить свои суждения, лучше правдивы в отношении своего внутреннего состояния.
И наоборот, мы хотим, чтобы системы ИИ избегали объяснений или оправданий, которые правдоподобны, но содержат ложные предпосылки.
Соответствие и правдивость кажутся синергетическими.
Если бы мы только знали, как создавать согласованные системы, это могло бы помочь построить правдивые системы.
И если бы мы знали, как создавать мощные правдивые системы, это могло бы помочь в построении согласованных систем.
Создание масштабируемых решений, которые работают, даже когда системы ИИ становятся намного умнее людей, означает, что эти два направления, вероятно, могут многому научиться друг у друга.
Новые стандарты правдивости будут применяться только к системам ИИ и не будут ограничивать человеческую речь.
Но всегда есть шанс, что плохо выбранные стандарты могут привести к постепенному сгущению человеческих убеждений.
Мы должны стремиться к версиям правил правдивости, которые уменьшают эти шансы.
Например:
1.Системам ИИ следует разрешить и поощрять предлагать альтернативные взгляды и теории.
2.Методы определения истины не должны быть сильно привязаны к авторитету.
3.Следует проявлять осторожность, чтобы стандарты правдивости ИИ не оказывали чрезмерного влияния на нормы и законы, касающиеся свободы слова человека.
Это ВРЕМЯ, когда нормы и стандарты будут устанавливаться преднамеренно или органично.
Пришло ВРЕМЯ заложить основы того, как думать о правдивости, как создавать правдивый ИИ и как интегрировать его в наше общество.
Речь, создаваемая искусственным интеллектом, будет быстро расти, чтобы представлять гораздо большую долю, возможно, даже большую часть значимого общения в мире.
Наиболее многообещающие правила правдивости ИИ направлены не на то, чтобы принуждать системы ИИ к соответствию, а на то, чтобы избегать крайней неправды.
Продолжайте учиться!!
By My
