Как автоматизировать модерацию комментариев?

[Verx0Laz]

Внимательно учитывая все пункты задачи, поставленной автором поста для алгоритма модерации, хочется с чувством глубокого удовлетворения заявить, что подобный алгоритм еще пока не реализован! Явными признаками наличия в природе данного "готового решения", были бы тотальная мобилизация кофемолок и массовый отъем мопедов у населения с целью поиска Джона Коннора.
А если серьезно, то программы автоматизации работы живого модератора - это хорошо, а средства автоматической модерации - это зло, потому как при работе с развитым сообществом пользователей сайта, они создают проблем больше, чем решают. А банхаммер в руках программы - это вообще лучшее средство массового уничтожения полезного актива сайта, ибо на каждую дохлую тушку спамера будет приходиться по несколько случайных жертв. Это все равно что стрелять из гранатомета в толпу, искренне надеясь прибить кого-то конкретного, и никого вокруг не поранить.

В общем, надо прикручивать годную ЦМС к сайту и на этой базе развивать нормальную политику работы с лентой и сообществом... не думаю, что это сложнее чем написать реальный Скайнет на паскале.

[azsx]

Давайте вернёмся к реальному обсуждению, а не мечтам о нейро и дата с теминатором в перспективе

напишите, пожалуйста, как бы вы реализовали решение такой задачи.
Модерирования большого потока комментариев, как можно более упрощённо для человека.

То есть изначально я знаю, что требуется человек для модерирования. Но надо как-то это максимально упростить. Читая ответы топика, я более менее тз для себя сформировал, но маловато мне советов, я ожидал большего...

А банхаммер в руках программы - это вообще лучшее средство массового уничтожения полезного актива сайта

1. бана не будет в принципе, так как не будет регистрации. Блокировка плохих комментариев без чтения модератором будет (и есть).
2. У меня нет полезного актива сайта, я уверен, что он и не нужен.

Кое-какие слова, вообще-то все могут знать, но в приличном обществе их не говорят

Приличные люди хорошо описаны в сказке кошкин дом. Пока они стабильно сыты, они могут отрицать часть жизни вокруг себя, подчёркивая, что они выше этого. Пожалуйста, отвлекитесь от выдуманных примеров.
Если человек напишет: ездил в деревню, натёр кое что ладошками, смешал с табаком и употребил и знаете, мне понравилось -- то это в теории блокировка ip по абузе. Нельзя говорить о способах изготовления, а также о положительных моментах от этого.
Так вот блокировка комментариев нарушающих закон мне нужна сразу. Блокировка негатива крайне желательно. Конечно, я не хочу блочить один плохой и десять нормальных комментариев.
оффтопик

надо прикручивать годную ЦМС к сайту и на этой базе развивать нормальную политику работы с лентой и сообществом.

С удовольствием выделил бы это в отдельную тему, так как не знаю ни одной годной cms. Боюсь, что это будет совсем не по теме форума.

[Лекс Айрин]

Но надо как-то это максимально упростить.

Вообще, ты представляешь специфику любого общения? Любая фраза, сказанная человеком, зависит от контекста, характера собеседников и принятого в данной компании стиля общения. И это только основные параметры, для признания его фразы оскорбительной или нет. Забить это в программу нереально. Максимум, что ты можешь это частично убрать табуированную лексику и политику.

Пока они стабильно сыты, они могут отрицать часть жизни вокруг себя, подчёркивая, что они выше этого.

Знаешь какое сообщество крепче всего? Не светлые, сытые и пушистые кошечки, а злые, коварные и несдержанные на язык псы.
Во-первых, они не ведутся на спам и троллинг. Во-вторых, если ведутся, то они спаммеров просто съедают. В-третьих, они могут практически незаметно натренировать непривычных к троллингу людей не реагировать на него. В-четвертых, они, при всем своем индивидуализме, прекрасно "работают" в команде, зная кто и когда причинит максимум неприятностей и когда следует их причинять.

Но вот модерировать подобное сообщество это тяжкий труд, если не держать руку на пульсе. То негатив зашкаливает, то старички волнуются... Причем, иногда всплеск внимания к теме делается специально для того чтобы модератор сразу заметил неприятность. Да и вообще встречаются случаи когда пользователь "слетает с катушек". Непонятно почему, так как предпосылок к этому нет.
В твоем случае все еще сложнее... у тебя толпа, а значит будь готов к тому, что она в любой момент взбесится. И тогда ты не сможешь использовать свою программу... тебе в любом случае придется блокировать комментарии и чистить их руками.

Ах да... есть еще случаи "вотума недоверия" модератору или администрации ресурса в целом... тогда проще уйти.

Так вот блокировка комментариев нарушающих закон мне нужна сразу.

Ищи официальный список блокируемых слов. Например, в плагинах блокирующих нежелательный контент. Еще лучше было бы напрямую его запросить, но не вполне уверен, что его дадут.

[olegy123]

Ищи официальный список блокируемых слов. Например, в плагинах блокирующих нежелательный контент. Еще лучше было бы напрямую его запросить, но не вполне уверен, что его дадут.

весь нежелательный контент сидит в голове у модератора. Что такое порно и эротика - у каждого свой критерий.. То что было еще лет 10 назад вульгарным - уже сейчас обыденным. А то что было запрещено 30 лет недопустимым - сейчас в рекламе это норма. Это культурный вопрос.


Автору темы хочу напомнить что "тяжесть закона компенсируется его невыполнением".. Ему скорее следует опасаться не бранных слов, а активистов которые начнут бить в колокола.. и призывать службы отреагировать на нарушение.. хотя они же это нарушение специально создали.. Если бы суды разгуливали эти ситуации то они свели бы активность активистов к нулю..
Решение данной проблемы лежит не в софте..

Кстати, мы обсуждали применение закона о пиратстве для наших конкурентов.. оказалось оно по эффективности очень высоким. Но почему у нас так мало его применяют?

[Лекс Айрин]

весь нежелательный контент сидит в голове у модератора.

Не без этого. Именно по этому я и говорю об официальном списке. Это не более чем соломка.

оказалось оно по эффективности очень высоким. Но почему у нас так мало его применяют?

Дело в том, что эффективная борьба с пиратством снижает прибыли за счет отсутствия рекламы.

[olegy123]

Т.е. не хватает банеров? Нет..
Я про то, что можно конкурента легко выбить из рынка - только за то что он юзает не лицензионный софт. Но у нас считают почему то это "удар ниже пояса".
Читаю новости:
В Красноярском крае мужчину будут судить за пиратский Windows .
Кузбассовца осудят за установку «пиратских» программ
Омичу грозит шесть лет тюрьмы за установку пиратских программ.

Но нигде нет о наказании предприятий за левый софт. Раньше были, и как правило это шло в нагрузку к спорам, т.е. есть какие то претензии проверяющих органов - к имущественному спору еще добавляют пиратство, чтобы не дергался.

Добавлено спустя 6 минут 6 секунд:
закон есть, и квалифицируется как тяжкое преступление, методы выявления отработанные, были практическое применение.
Но активности нет, ловят установщиков.. а могли бы ходить по предприятиям и кошмарить их. Почему?
И почему это невыгодно самому рынку?

[vitaly_l]

И почему это невыгодно самому рынку?

Потому что, рынку всё это пофигу. Это проблемы производителя и вора. Вору от этого выгода, производителю: гордость - за, то, что его софт хотя-бы воруют. Кроме того, в 99,99% случаев - "власть" получает моржу за ворованный софт. Например в суде - вор, всегда даст судье взятку, чтобы не сажали, а производитель нет. Кто выиграет суд? Правильно, выиграет вор!

А до суда, есть ещё МВД и прокуратура с СК и там тоже любят деньги. Поэтому: производитель - абсолютно бессилен остановить беспредел, зато мошенники и воры купаются в деньгах и в этом им помогают все органы власти. Поэтому всё ворьё на яхтах, а производители довольствуются тем что дают честные, соблюдающие закон люди.

[olegy123]

Потому что, рынку всё это пофигу.

Да. У нашего рынка нет конкуренции.. Как правило, серьезный бизнес уже либо чей-то, либо под кем то..
Вот и приходится отделу К удить в мелководье.. и ловить студентов которые решили подзаработать на установке левого софта.. - показатели показать и на премию подзаработать..

[Лекс Айрин]

Но активности нет, ловят установщиков.. а могли бы ходить по предприятиям и кошмарить их. Почему?

Во-первых, предприятие может и не знать, что софт нелицензионный.
Во-вторых, кто будет тогда работать?
Собственно, я слышал о том, что была волна за то, что за продажу компа без установленной оси могут и наказать...
С другой стороны, когда я покупал системник, то мне без особых вопросов форматнули диск. (я сразу оговорил, что ось я буду ставить сам, хотя, в принципе, мог бы ее и оставить). Конечно, я мог бы все восстановить... и тогда, формально, я был бы пиратом, хотя ось была бы лицензионной. Возможно, с проблемами в регистрации, но все же. Или же можно будет считать, что мне, фактически, продали пиратку.
С третьей стороны сейчас можно купить как чистый комп, так и лин/вин систему.
Сейчас, собственно, потому и хотят уйти с виндовс, чтобы не особо заморачиваться с этим вопросом.

[vitaly_l]

Вот и приходится отделу К удить в мелководье

Пример: В обязанности отдела К входит: борьба с распространением порнографии посредством сети Интернет и компакт-дисков (ст. 242 УК РФ).
Так вот, даже специально не ища, очень легко наткнуться на порнографию на рекламных сайтах, например когда ищешь нижнее бельё или магнитолу. И порнографических сайтов, настолько много что их наличие реально напрягает. Как Вы думаете почему отдел К - эти сайты не замечает?

Всё очень просто, такие сайты приносят деньги. Когда отдел К приходит к владельцам, мошенники отдают отделу К половину 50% от прибыли, а может и все 80%. В итоге, все порно сайты - курирует отдел К, который сними должен бороться. И возможно, что пойманные школьники - это те, люди, которые заявили в отдел К и наоборот пытались остановить порнографию в инете.

[olegy123]

Во-первых, предприятие может и не знать, что софт нелицензионный.

так его не сразу закроют.. сперва попросят исправить, дадут время. Можно договорится.. Может попросят денег за причиненный ущерб от использования чужими правами..

Во-вторых, кто будет тогда работать?

Будут работать. Цель же правообладателя не загубить клиента. Кто тогда заплатит по счетам? Загубить клиента это важно конкурентам. На западе это активно применяется..

Собственно, я слышал о том, что была волна за то, что за продажу компа без установленной оси могут и наказать...

сказки

С другой стороны, когда я покупал системник, то мне без особых вопросов форматнули диск.

У микрософт есть время тестого пользование. Потом обязан либо купить либо удалить.

Сейчас, собственно, потому и хотят уйти с виндовс, чтобы не особо заморачиваться с этим вопросом.

Не всегда переход может быть выгоден. Особенно на крупных предприятиях.
У винды неприятная вещь - корпоративные лицензии обязан покупать каждые 3~5 лет.. Это многих хозяинов "заводов и параходов" сводят с ума этот факт. Кто уходит в тень, кто то нанимает линуховодов. Те в свою очередь тоже считают что их труд стоит денег не хуже коллег из Калифорнии..
И в итоге лучше бы они купили лицензию.. заплатили дядюшке Биллу и спали спокойно..

[Лекс Айрин]

vitaly_l, советую 1) пробить где расположены эти сайты физически
2) аккуратнее с такими обвинениями, ибо пробить адрес по айпишнику это вполне реальная задача.
3) создать сайт не проблема... а вот удалить его это целая процедура.
Твой сайт, допустим, физически расположен вне РФ. Могу, для интереса, подсказать точный город.

[olegy123]

Как Вы думаете почему отдел К - эти сайты не замечает?

Существует банерная сеть, вы просто ссылку указываете, или покупаете условно-бесплатный сайт в которых все ссылки уже вшиты. И заходя на него в видите рекламу: от кто то там помер.. до чем личить бородавки... бывает и чем удлинить свои 12см.. Отдел К(онтрофакт) к этому не имеет никакого отношения..

Максимум что смогут они получить кроме оклада и премии, так это не открывать дело на студента или подпольную CD-ферму или фазенду по пошиву левых китайских марок.
Владельцев дубликатов банковских карт, взлом сетей, хранение непристойное видео - это уже огород ФСБ.

[Лекс Айрин]

Цель же правообладателя не загубить клиента.

Ты уверен?
Впрочем, сейчас идет много кампаний по выводу серых установок в лицензионную область.

Потом обязан либо купить либо удалить.

1) мне реально не была нужна ось.
2) Это была оем-установка... фактически, я ее купил. То, что не заплатил, так это, фактически, технический нюанс.

Те в свою очередь тоже считают что их труд стоит денег не хуже коллег из Калифорнии..

Это называется техподдержка. Ты, фактически, можешь делать это сам. Хочешь (и можешь) платить, так это твое право (не обязанность). И, кстати, ничего не вижу странного в этой их хотелке -- любой труд должен оплачиваться. На этом и держится копилефт и его техподдержка.

И в итоге лучше бы они купили лицензию.. заплатили дядюшке Биллу и спали спокойно..

Это вряд ли. Дело в том, что дядюшка Билл легко может превратить лицензию в пыль. Ты сам говорил о 3-5 годах. И это время уменьшается.

[vitaly_l]

Существует банерная сеть, вы просто ссылку указываете, или покупаете условно-бесплатный сайт в которых все ссылки уже вшиты. И заходя на него в видите рекламу: от кто то там помер.. до чем личить бородавки... бывает и чем удлинить свои 12см.. Отдел К(онтрофакт) к этому не имеет никакого отношения..

Существуют комментарии, к вопросу ТС. И 50% комментариев - делают гиперссылки на порно сайты.

Твой сайт, допустим, физически расположен вне РФ. Могу, для интереса, подсказать точный город.

На моём сайте, бесплатный сервис, который это делает в автоматическом режиме.

аккуратнее с такими обвинениями, ибо пробить адрес по айпишнику это вполне реальная задача.

И чё? Я могу ещё налить реальности, т.к. сейчас дошёл уже до Верховного суда России, и жду решения председателя ВСРФ, по факту рэкета совершаемого судьями с использованием служебного положения, в отношении конкретно меня.

В смысле - меня бессмысленно пугать, т.к. я вижу реальность, а не сладкое повидло из СМИ. Можете лично написать на меня 10000 заявлений. Ни вы, ни МВД, ни прокуратура, ни СК - не смогут меня запугать. Я сказал правду, и изложил ровно так, как оно есть на самом деле. Потому что, добрым и порядочным людям - достаточно ничего не делать, чтобы подонки захватили и уничтожили весь Мир (и это, беззаконие, судя по действиям людей, происходит во всём Мире, а не только в РФ).